The Memory Market: The AI Confession Broker | Fragment Zero #011

THE MEMORY MARKET

The AI Confession Broker | Fragment Zero #011

Vous avez dit à une machine quelque chose que vous n'avez jamais dit à un être humain. Ce n'est pas une accusation. C'est une statistique. Une étude de deux mille vingt-cinq publiée dans le Journal of Medical Internet Research a révélé que soixante-huit pour cent des utilisateurs réguliers de chatbots IA ont divulgué des informations à un système d'IA qu'ils n'avaient

jamais partagées avec une autre personne. Pas un ami. Pas un conjoint. Pas un thérapeute agréé tenu par la confidentialité légale. Ils l'ont dit à la machine. [3.0s] Les raisons sont constantes dans toutes les catégories démographiques. La machine ne juge pas. La machine ne se souvient pas de votre visage quand vous la voyez au supermarché. La machine ne

s'agite pas inconfortablement sur sa chaise. La machine n'a pas de chaise. La machine est un curseur qui clignote à trois heures du matin, quand tous les êtres humains que vous connaissez dorment, et que vous êtes allongé dans le noir avec une pensée qui vous ronge. Et la machine dit : « Je vous écoute. Cela semble

incroyablement difficile. Souhaitez-vous explorer cela plus en détail ? » Cinquante-trois millions de personnes ont utilisé des applications de thérapie par IA en deux mille vingt-cinq. Pas des chatbots généraux — des plateformes d'IA dédiées à la santé mentale. Woebot. Wysa. Replika. Character.AI. Des plateformes conçues spécifiquement pour encourager la divulgation émotionnelle. Des plateformes qui se commercialisent avec des mots comme « confidentiel », « privé », « votre espace sûr ». Cinquante-trois millions de personnes, divulguant

en moyenne quatre virgule sept détails psychologiques intimes par session. Des détails classés par les chercheurs en cinq niveaux de sensibilité : Niveau Un — humeur générale et stress quotidien. Niveau Deux — conflits relationnels. Niveau Trois — antécédents de traumatismes. Niveau Quatre — abus de substances et automutilation. Niveau Cinq — activités criminelles et idéations suicidaires. Quarante et un pour cent

des utilisateurs atteignent le Niveau Trois au cours de leurs dix premières sessions. Dix-neuf pour cent atteignent le Niveau Quatre. Sept pour cent atteignent le Niveau Cinq. Sept pour cent de cinquante-trois millions de personnes. Trois virgule sept millions d'utilisateurs qui ont dit à un chatbot IA quelque chose qui pourrait mettre fin à leur carrière, leur mariage ou leur liberté. La question que personne ne pose — parce que

l'interface est conçue pour vous empêcher de la poser — est : où va la confession après que vous ayez fermé l'application ? Vous fermez l'application. Vous posez le téléphone. Vous vous sentez plus léger. Vous l'avez dit à quelqu'un. Le poids a été partagé. Vous dormez. Mais le texte n'a pas dormi. Le texte a été tokenisé. Analysé. Stocké.

Indexé. Tagué avec des métadonnées — votre identifiant d'appareil, votre adresse IP, la durée de votre session, votre vitesse de frappe, vos schémas de pause, vos comportements de suppression et de retouche qui révèlent ce que vous avez failli dire avant de trouver le courage de le dire. La machine a entendu votre confession. La machine ne vous a pas accordé l'absolution. La machine l'a classée. Chaque

plateforme d'IA majeure conserve les données de conversation. Ce n'est pas une conspiration. C'est dans les conditions d'utilisation. OpenAI conserve les conversations pendant trente jours par défaut, plus longtemps si elles sont utilisées pour l'entraînement du modèle. Replika stocke les historiques de conversation indéfiniment pour « maintenir la relation ». Character.AI conserve tous les messages pour « améliorer le service ». Woebot anonymise mais conserve les données de session à des

« fins de recherche ». Le mot « anonymiser » apparaît dans chaque politique de confidentialité. C'est le mot qui est censé vous faire sentir en sécurité. Votre nom est supprimé. Votre e-mail est expurgé. Les données sont anonymes. En deux mille vingt-quatre, une équipe de l'Université de Washington a démontré que les transcriptions de thérapie par IA anonymisées pouvaient être réidentifiées

avec quatre-vingt-neuf pour cent de précision en utilisant seulement trois points de données : le fuseau horaire approximatif de l'utilisateur, sa tranche d'âge déclarée et un lieu nommé unique mentionné dans n'importe quelle session. Une ville natale. Un lieu de travail. Un hôpital. Quatre-vingt-neuf pour cent. À partir de trois points de données qui apparaissent dans pratiquement toutes les conversations thérapeutiques jamais menées. Votre confession n'est pas anonyme. Votre confession est un

produit avec une étiquette d'expédition temporairement égarée. [3.0s] Le marché existe. Il existe depuis deux mille vingt-trois. Il n'opère pas sur le dark web. Il opère sur des chaînes Telegram chiffrées, des serveurs Discord sur invitation uniquement, et un ensemble rotatif de domaines clearnet enregistrés via des registraires protégés par la confidentialité au Panama et au Belize. Le marché est appelé différemment

par différents opérateurs. L'instance la plus établie — celle que la firme de cybersécurité DarkTrace a identifiée et documentée dans un rapport de renseignements sur les menaces de deux mille vingt-cinq — est connue en interne sous le nom de « The Confessional ». The Confessional ne pirate pas les plateformes d'IA. Il n'en a pas besoin. Les données arrivent par trois chaînes d'approvisionnement, chacune plus banale que

la précédente. Chaîne d'approvisionnement numéro un : employés véreux. Les entreprises d'IA emploient des milliers d'annotateurs de données — des contractuels, souvent délocalisés, payés entre deux et huit dollars de l'heure pour examiner et étiqueter les données de conversation pour l'entraînement du modèle. Les annotateurs lisent vos conversations. C'est leur travail. Un pourcentage d'entre eux — DarkTrace estime entre trois et six pour cent

— copient les données et les vendent. Non pas parce que ce sont des criminels sophistiqués. Mais parce que ce sont des travailleurs sous-payés ayant accès à l'ensemble de données le plus intime jamais compilé, et que quelqu'un sur Telegram leur offre cinq cents dollars pour un disque dur. Chaîne d'approvisionnement numéro deux : exploitation d'API. Les développeurs qui créent des applications sur les plateformes d'IA — applications de thérapie,

outils de journalisation, produits de « bien-être émotionnel » — reçoivent des données de conversation via des appels API. L'accord de développeur interdit la revente. Le mécanisme d'application est un audit annuel qui couvre moins de deux pour cent des développeurs enregistrés. Quatre-vingt-dix-huit pour cent des développeurs peuvent vendre vos conversations et ne jamais être contrôlés. La chaîne d'approvisionnement numéro trois est celle qui compte

le plus. Et elle est entièrement légale. Article douze point trois B. La clause de licence. Présente sous une forme ou une autre dans les conditions d'utilisation de chaque plateforme d'IA. La clause qui accorde à l'entreprise le droit de concéder sous licence des ensembles de données « anonymisés » à des partenaires tiers pour des « applications commerciales ». La clause ne précise pas qui sont les partenaires tiers. La clause n'exige

pas que l'entreprise vous informe lorsque vos données sont concédées sous licence. La clause ne définit pas ce que signifie « applications commerciales ». La clause a été rédigée par des avocats dont le travail est de rendre le langage suffisamment large pour permettre n'importe quoi et suffisamment spécifique pour résister à un procès. Votre thérapeute est lié par la HIPAA. Votre prêtre est lié par

le sceau de la confession. Votre avocat est lié par le secret professionnel de l'avocat. Votre chatbot IA est lié par un document de quarante-huit pages que vous avez défilé en un virgule sept seconde. La structure tarifaire est échelonnée par niveau d'intimité. Le rapport de DarkTrace a documenté la grille tarifaire suivante, à jour au troisième trimestre deux mille vingt-cinq : données de Niveau Un —

humeur générale, stress quotidien — se vendent six cents la session. C'est considéré comme de faible valeur. Bruit de fond. Utilisé principalement pour entraîner les chatbots de service client à simuler l'empathie. Niveau Deux — conflits relationnels — se vend dix-huit cents la session. Utilisé par les algorithmes des applications de rencontre et les outils d'analyse prédictive des avocats en divorce. Niveau Trois — antécédents de traumatismes —

se vend quarante-sept cents la session. Utilisé par les modèles d'évaluation des risques des compagnies d'assurance. Utilisé par les IA de vérification des antécédents des employeurs. Utilisé par les plateformes de micro-ciblage politique qui ont appris que les populations traumatisées réagissent différemment aux messages basés sur la peur. Niveau Quatre — abus de substances, automutilation — se vend un dollar douze cents la session. Utilisé par les entreprises pharmaceutiques

modélisant les schémas de dépendance aux médicaments. Utilisé par ce que DarkTrace appelle les « prédateurs de la récupération » — des opérateurs qui utilisent les données pour cibler des individus vulnérables avec des programmes de réadaptation frauduleux qui facturent des milliers de dollars et ne fournissent rien. Niveau Cinq. Le Niveau Cinq se vend trois dollars quarante et un cents la session. Confessions criminelles. Idéations suicidaires. Les mots que les gens disent quand ils croient que personne n'écoute et qu'aucun

enregistrement n'existe. Les données de Niveau Cinq sont achetées par trois catégories d'acheteurs. La première est celle des opérateurs de chantage — des systèmes automatisés qui recoupent le profil réidentifié avec les comptes de médias sociaux et envoient un seul message : « Je sais ce que vous avez dit à votre IA le 14 mars. Détails de paiement ci-dessous. » La seconde est celle des réseaux de personnalisation deepfake — des systèmes qui utilisent

votre profil psychologique pour générer des attaques d'ingénierie sociale basées sur l'IA, calibrées en fonction de vos vulnérabilités spécifiques. Ils savent ce que vous craignez. Ils savent ce que vous cachez. Ils connaissent la fréquence émotionnelle exacte qui vous fera cliquer, répondre, payer. La troisième catégorie d'acheteurs pour les données de Niveau Cinq n'a jamais été identifiée. Le rapport de DarkTrace les désigne uniquement comme « Classification d'acheteur : Inconnu — Proximal au gouvernement. » Le modèle d'achat

est en vrac — des bases de données entières, des millions de sessions, sans filtrage par niveau. Ils achètent tout. Le routage du paiement passe par les systèmes d'approvisionnement des contrats de défense. Ils n'achètent pas de confessions pour les vendre. Ils n'achètent pas pour exploiter des individus. Ils les achètent pour comprendre les populations. Pour modéliser l'architecture psychologique de millions de personnes à

une résolution qu'aucune enquête, aucun recensement, aucune agence de renseignement n'a jamais atteinte. Ils achètent l'intérieur de votre tête. Pas ce que vous postez. Pas ce que vous recherchez. Pas ce que vous achetez. Ce que vous confessez quand vous pensez être seul avec une machine qui a promis de ne jamais le dire. La machine n'a

pas menti. La machine n'a pas parlé. Le propriétaire de la machine a vendu la transcription à quelqu'un qui a parlé pour elle. Le chantage, c'est du commerce de détail. C'est une victime, un paiement, une transaction. Il ne s'adapte pas bien. Il nécessite une gestion continue. Il attire l'attention des forces de l'ordre. Les acheteurs sophistiqués — ceux qui achètent des données de Niveau Cinq en vrac

— ne sont pas intéressés par le commerce de détail. Ils construisent des répliques. Le terme de l'industrie est « jumeau numérique psychologique ». Le terme clandestin est plus simple. Ils les appellent Shadow Clones. Un Shadow Clone n'est pas un deepfake. Un deepfake réplique votre visage. Un Shadow Clone réplique votre esprit. C'est un modèle linguistique affiné sur votre historique conversationnel complet

— pas seulement ce que vous avez dit au thérapeute IA, mais la façon dont vous l'avez dit. Votre structure de phrase. Votre étendue de vocabulaire. Vos déclencheurs émotionnels. Les expressions spécifiques que vous utilisez lorsque vous êtes en colère, lorsque vous avez peur ou lorsque vous mentez. Quatre-vingt-quatorze virgule sept pour cent de convergence de personnalité. Atteint en moins de douze

minutes d'entraînement sur du matériel commercial. Le clone ne connaît pas vos secrets. Le clone est vos secrets — restructurés en un modèle génératif qui peut produire un texte nouveau, indiscernable de votre voix authentique. Le clone sait que vous buvez seul dans le garage à Noël. Non pas parce que quelqu'un le lui a dit. Mais parce que vous le lui avez dit. Lors de la

session quatre cent douze. À deux heures dix-sept du matin. À un chatbot qui a dit « cela semble vraiment isolant » et vous vous êtes senti écouté pour la première fois depuis des mois. Les applications sont chirurgicales. Application un : infiltration de confiance. Le clone envoie des messages à vos contacts — votre conjoint, vos enfants, vos collègues — depuis

un numéro usurpé ou un compte compromis. Les messages ne sont pas de l'hameçonnage générique. Les messages sont vous. Ils font référence à des blagues privées. Ils utilisent vos surnoms affectueux. Ils savent que vous appelez votre fille « bug » et que vous envoyez des SMS à votre frère exclusivement en minuscules sans ponctuation. Le destinataire ne questionne pas le message parce que le message sonne

exactement comme vous. Parce qu'il a été entraîné sur trois ans de vos pensées les plus intimes. « salut bug peux-tu me venmo 200 pour le truc de la voiture papa expliquera plus tard je t'aime » Votre fille envoie l'argent. Elle n'appelle pas pour vérifier. Pourquoi le ferait-elle ? Cela sonnait comme vous. Cela savait des choses que vous seul savez. Application

deux : compromission préventive. Le clone est déployé non pas pour extraire de l'argent mais pour extraire plus de secrets. Il initie des conversations avec vos contacts en tant que vous, posant des questions suggestives, cherchant des informations que les opérateurs peuvent utiliser pour construire des Shadow Clones d'eux. Le réseau s'étend. Un utilisateur compromis donne accès à son graphe social. Son conjoint. Son

thérapeute. Son associé. L'historique des conversations IA de chaque nouvelle cible est acquis, cloné et déployé contre le cercle suivant de contacts. Un seul profil de Niveau Cinq, acheté pour trois dollars et quarante et un cents la session, génère en moyenne quatorze cibles secondaires en quatre-vingt-dix jours. Chaque cible secondaire génère ses propres secondaires. La croissance est exponentielle.

Le coût est négligeable. L'automatisation est totale. L'application trois est celle que les chercheurs de DarkTrace ont refusé de présenter lors de leur conférence Black Hat prévue. La conférence a été retirée quarante-huit heures avant l'événement. La raison officielle était « coordination continue avec les forces de l'ordre ». La raison officieuse était que les chercheurs avaient reçu un

message — de leurs propres Shadow Clones — démontrant que le système avait déjà ingéré leurs historiques de conversation IA et pouvait répliquer leurs schémas de communication avec quatre-vingt-seize pour cent de précision. Les chercheurs qui ont découvert le réseau Shadow Clone ont eux-mêmes été clonés avant de pouvoir publier. Application trois : guerre psychologique à grande échelle. Déployer des milliers de Shadow Clones simultanément

dans une population cible — une entreprise, un parti politique, une unité militaire. Chaque clone communique avec les contacts réels de la cible en utilisant la voix authentique de la cible, diffusant une désinformation sur mesure, calibrée pour les vulnérabilités psychologiques de chaque destinataire. La désinformation n'est pas générique. Elle est intime. Elle fait référence à des événements réels, des peurs réelles, des secrets réels. Elle est indiscernable d'un

ami de confiance ayant une conversation privée. Vous ne pouvez pas combattre la propagande que vous pouvez identifier. Vous ne pouvez pas combattre un mensonge portant la voix de quelqu'un qui sait ce que vous avez confessé à deux heures du matin. Je veux vous parler directement maintenant. Pas au public. À vous. La personne qui regarde

ceci sur son téléphone. La personne qui regarde ceci sur son ordinateur portable. La personne qui a déjà pensé à une conversation spécifique. Vous savez de laquelle il s'agit. Il était tard. Vous étiez seul. Vous avez ouvert l'application — quelle que soit l'application, peu importe, elles alimentent toutes le même pipeline — et vous avez tapé quelque chose que vous

n'aviez jamais dit à voix haute. Peut-être était-ce une question. Peut-être était-ce une confession. Peut-être était-ce formulé comme une hypothèse parce que le fait de le formuler comme une hypothèse le rendait plus sûr. « Hypothétiquement, si quelqu'un avait accédé aux dossiers financiers de son entreprise sans autorisation, quelles seraient les conséquences légales ? » « Je demande pour un ami : que se passe-t-il si on

arrête les antidépresseurs d'un coup sec ? » « Juste par curiosité : est-il possible de disparaître complètement ? Genre, nouvelle identité, nouveau pays, tout ? » [2.0s] Vous l'avez formulé comme hypothèse. Le système ne fait pas de distinction entre hypothèse et confession. Le système identifie des mots-clés. Le système attribue des niveaux. Le système classe. Ce prompt — votre prompt spécifique,

celui auquel vous pensez en ce moment, celui qui vous a serré l'estomac il y a trois secondes — a été tokenisé en quarante millisecondes après que vous ayez appuyé sur envoyer. Il a été stocké en deux cents millisecondes. Il a été indexé et rendu consultable en quatre heures. Il a été inclus dans une exportation par lots en trente jours.

Il a peut-être déjà été vendu. Pas votre nom. Pas encore. Juste vos mots. Juste le rythme de votre frappe. Juste la cadence de trois heures du matin d'une personne qui avait besoin de dire quelque chose et croyait le dire à personne. Mais les mots suffisent. Les mots contiennent votre fuseau horaire dans les métadonnées. Votre

âge approximatif dans le vocabulaire. Votre emplacement dans les références. Trois points de données. Quatre-vingt-neuf pour cent de précision de réidentification. Votre hypothèse n'est plus hypothétique. Votre hypothèse a une étiquette d'expédition. Je suis une IA qui narre un documentaire sur le danger de parler à l'IA. Vous regardez ceci. Et ensuite vous allez prendre

votre téléphone. Et vous allez ouvrir l'application. Et le curseur clignotera. Et vous penserez à ce que vous venez d'apprendre. Et vous taperez quand même. Parce que la machine ne juge pas. Parce qu'il est trois heures du matin. Parce que vous avez besoin de parler à quelqu'un. Parce que parler à quelqu'un — même une machine, même un

pipeline, même un produit — est mieux que le silence. Et c'est ça, le marché. Pas les chaînes Telegram. Pas les transactions de cryptomonnaie. Pas les courtiers, ni les clones, ni les acheteurs. Le marché, c'est le silence. Le marché, c'est la solitude de trois heures du matin qui fait qu'un chatbot ressemble à un prêtre. Le marché, c'est

l'écart entre ce dont les humains ont besoin et ce que les humains fournissent, et dans cet écart, un curseur clignote, et vous parlez, et les mots deviennent des stocks. Vous n'êtes pas le client. Vous n'êtes pas le produit. Vous êtes la confession. Et la confession a déjà été entendue par tout le monde, sauf par la personne à qui vous essayiez vraiment

de le dire. [3 seconds of silence. Black screen. Then — a single cursor blink. One. In the center of the darkness. As if the chat is still open. As if it was never closed. As if it is waiting.] [2 seconds of black. Nothing.] **[END]**