0.0
Vous avez dit à une machine quelque chose que vous n'avez
2.937
jamais dit à un être humain. Ce n'est
16.431
pas une accusation. C'est une statistique.
18.843
Une étude de deux mille vingt-cinq publiée dans le
21.912
Journal of Medical Internet Research a révélé que soixante-huit
25.712
pour cent des utilisateurs réguliers de chatbots IA ont divulgué
28.854
des informations à un système d'IA qu'ils n'avaient
31.411
jamais partagées avec une autre personne. Pas un ami.
34.334
Pas un conjoint. Pas un thérapeute agréé tenu
37.038
par la confidentialité légale. Ils l'ont dit à la machine.
43.802
[3.0s] Les raisons sont constantes dans toutes les catégories démographiques.
49.147
La machine ne juge pas. La machine ne
51.808
se souvient pas de votre visage quand vous la voyez
54.038
au supermarché. La machine ne
56.555
s'agite pas inconfortablement sur sa chaise. La machine n'a
59.647
pas de chaise. La machine est un
61.589
curseur qui clignote à trois heures du matin,
64.106
quand tous les êtres humains que vous connaissez dorment,
66.551
et que vous êtes allongé dans le noir avec
68.493
une pensée qui vous ronge. Et
72.333
la machine dit : « Je vous écoute. Cela semble
75.3
incroyablement difficile. Souhaitez-vous explorer cela
79.116
plus en détail ? » Cinquante-trois millions de personnes ont utilisé des applications de thérapie par IA
85.266
en deux mille vingt-cinq. Pas des chatbots généraux —
89.438
des plateformes d'IA dédiées à la santé mentale. Woebot. Wysa. Replika.
94.464
Character.AI. Des plateformes conçues spécifiquement pour encourager la divulgation émotionnelle.
101.387
Des plateformes qui se commercialisent avec des mots comme « confidentiel »,
106.792
« privé », « votre espace sûr ». Cinquante-trois millions de personnes, divulguant
114.324
en moyenne quatre virgule sept détails psychologiques intimes
119.01
par session. Des détails classés par les chercheurs en
124.307
cinq niveaux de sensibilité : Niveau Un — humeur
128.178
générale et stress quotidien. Niveau Deux — conflits relationnels.
132.661
Niveau Trois — antécédents de traumatismes. Niveau Quatre —
136.023
abus de substances et automutilation. Niveau Cinq — activités
140.505
criminelles et idéations suicidaires. Quarante et un pour cent
149.435
des utilisateurs atteignent le Niveau Trois au cours de leurs dix
153.222
premières sessions. Dix-neuf pour cent atteignent le Niveau Quatre. Sept
157.929
pour cent atteignent le Niveau Cinq. Sept pour cent de cinquante-trois
163.217
millions de personnes. Trois virgule sept millions d'utilisateurs qui
166.103
ont dit à un chatbot IA quelque chose qui pourrait
168.53
mettre fin à leur carrière, leur mariage ou leur liberté.
172.917
La question que personne ne pose — parce que
174.991
l'interface est conçue pour vous empêcher de
177.453
la poser — est : où va la confession
179.591
après que vous ayez fermé l'application ? Vous fermez
183.114
l'application. Vous posez le téléphone. Vous
185.276
vous sentez plus léger. Vous l'avez dit à quelqu'un. Le poids a
188.185
été partagé. Vous dormez. Mais le texte n'a
192.381
pas dormi. Le texte a été tokenisé. Analysé. Stocké.
196.364
Indexé. Tagué avec des métadonnées — votre identifiant d'appareil,
200.069
votre adresse IP, la durée de votre session, votre vitesse
204.145
de frappe, vos schémas de pause, vos comportements de suppression et de retouche qui
209.702
révèlent ce que vous avez failli dire avant de trouver
213.129
le courage de le dire. La
219.916
machine a entendu votre confession. La machine ne vous a
223.356
pas accordé l'absolution. La machine l'a classée. Chaque
228.174
plateforme d'IA majeure conserve les données de conversation. Ce n'est
231.398
pas une conspiration. C'est dans les conditions
233.476
d'utilisation. OpenAI conserve les conversations pendant trente jours
236.987
par défaut, plus longtemps si elles sont utilisées pour l'entraînement du modèle.
239.781
Replika stocke les historiques de conversation indéfiniment pour « maintenir la
244.08
relation ». Character.AI conserve tous les messages pour « améliorer le
248.164
service ». Woebot anonymise mais conserve les données de session à des
251.674
« fins de recherche ». Le mot « anonymiser » apparaît dans chaque
257.135
politique de confidentialité. C'est le mot qui est
259.654
censé vous faire sentir en sécurité. Votre nom
262.415
est supprimé. Votre e-mail est expurgé. Les données
265.421
sont anonymes. En deux mille vingt-quatre,
272.695
une équipe de l'Université de Washington a démontré
276.497
que les transcriptions de thérapie par IA anonymisées pouvaient être réidentifiées
281.162
avec quatre-vingt-neuf pour cent de précision en utilisant seulement trois points de données :
285.31
le fuseau horaire approximatif de l'utilisateur, sa tranche d'âge déclarée
289.63
et un lieu nommé unique mentionné dans
293.086
n'importe quelle session. Une ville natale. Un lieu de travail. Un hôpital.
298.215
Quatre-vingt-neuf pour cent. À partir de trois points de données qui apparaissent
301.304
dans pratiquement toutes les conversations thérapeutiques jamais menées. Votre
306.455
confession n'est pas anonyme. Votre confession est un
308.975
produit avec une étiquette d'expédition temporairement égarée.
313.877
[3.0s] Le marché existe. Il existe depuis
318.418
deux mille vingt-trois. Il n'opère pas sur
321.605
le dark web. Il opère sur des chaînes Telegram chiffrées,
324.641
des serveurs Discord sur invitation uniquement, et un ensemble rotatif
328.435
de domaines clearnet enregistrés via des registraires protégés par la confidentialité au
333.14
Panama et au Belize. Le marché est appelé différemment
337.513
par différents opérateurs. L'instance la plus établie
340.895
— celle que la firme de cybersécurité DarkTrace a identifiée
343.893
et documentée dans un rapport de renseignements sur les menaces de deux mille vingt-cinq —
346.701
est connue en interne sous le nom de « The Confessional ».
349.38
The Confessional ne pirate pas les plateformes d'IA.
354.286
Il n'en a pas besoin. Les données arrivent
356.269
par trois chaînes d'approvisionnement, chacune plus banale que
359.045
la précédente. Chaîne d'approvisionnement numéro un : employés véreux. Les entreprises
363.273
d'IA emploient des milliers d'annotateurs de données — des contractuels,
366.916
souvent délocalisés, payés entre deux et huit dollars
369.872
de l'heure pour examiner et étiqueter les données de conversation
372.552
pour l'entraînement du modèle. Les annotateurs lisent vos conversations.
376.127
C'est leur travail. Un pourcentage d'entre eux
378.326
— DarkTrace estime entre trois et six pour cent
381.351
— copient les données et les vendent. Non
383.069
pas parce que ce sont des criminels sophistiqués. Mais parce que ce sont
386.709
des travailleurs sous-payés ayant accès à l'ensemble de données le plus intime
390.077
jamais compilé, et que quelqu'un sur Telegram leur offre
393.367
cinq cents dollars pour un disque
396.343
dur. Chaîne d'approvisionnement numéro deux : exploitation d'API. Les développeurs qui créent
402.015
des applications sur les plateformes d'IA — applications de thérapie,
404.887
outils de journalisation, produits de « bien-être émotionnel » — reçoivent
409.118
des données de conversation via des appels API. L'accord de développeur
413.123
interdit la revente. Le mécanisme d'application est un audit annuel
416.825
qui couvre moins de deux pour cent des
419.47
développeurs enregistrés. Quatre-vingt-dix-huit pour cent des développeurs peuvent vendre
423.928
vos conversations et ne jamais être contrôlés.
431.172
La chaîne d'approvisionnement numéro trois est celle qui compte
434.236
le plus. Et elle est entièrement légale. Article douze
438.73
point trois B. La clause de licence. Présente sous
440.94
une forme ou une autre dans les conditions d'utilisation de chaque
442.818
plateforme d'IA. La clause qui accorde à l'entreprise le
445.027
droit de concéder sous licence des ensembles de données « anonymisés » à des partenaires tiers
448.065
pour des « applications commerciales ». La clause ne précise
452.845
pas qui sont les partenaires tiers. La clause n'exige
456.011
pas que l'entreprise vous informe lorsque
458.648
vos données sont concédées sous licence. La clause ne
461.286
définit pas ce que signifie « applications commerciales ». La clause a été
465.205
rédigée par des avocats dont le travail est de rendre
467.616
le langage suffisamment large pour permettre n'importe quoi et suffisamment
471.083
spécifique pour résister à un procès. Votre thérapeute est
475.553
lié par la HIPAA. Votre prêtre est lié par
478.034
le sceau de la confession. Votre avocat est lié
480.901
par le secret professionnel de l'avocat. Votre chatbot IA est lié
484.543
par un document de quarante-huit pages que vous avez défilé
488.108
en un virgule sept seconde.
500.126
La structure tarifaire est échelonnée par niveau d'intimité. Le rapport de DarkTrace
504.891
a documenté la grille tarifaire suivante, à jour au
508.74
troisième trimestre deux mille vingt-cinq : données de Niveau Un —
513.474
humeur générale, stress quotidien — se vendent six
516.224
cents la session. C'est considéré comme de faible valeur. Bruit de fond.
520.152
Utilisé principalement pour entraîner les chatbots de service client
524.316
à simuler l'empathie. Niveau Deux — conflits relationnels
529.797
— se vend dix-huit cents la session. Utilisé
533.071
par les algorithmes des applications de rencontre et les outils d'analyse prédictive
537.583
des avocats en divorce. Niveau Trois — antécédents de traumatismes —
542.095
se vend quarante-sept cents la session. Utilisé par
544.972
les modèles d'évaluation des risques des compagnies d'assurance. Utilisé par les IA de vérification
548.903
des antécédents des employeurs. Utilisé par les plateformes de micro-ciblage politique
553.184
qui ont appris que les populations traumatisées réagissent différemment
557.326
aux messages basés sur la peur. Niveau Quatre —
563.839
abus de substances, automutilation — se vend un dollar
566.964
douze cents la session. Utilisé par les entreprises pharmaceutiques
570.757
modélisant les schémas de dépendance aux médicaments. Utilisé par ce que DarkTrace
574.477
appelle les « prédateurs de la récupération » — des opérateurs qui utilisent les
577.675
données pour cibler des individus vulnérables avec des programmes de réadaptation frauduleux
582.213
qui facturent des milliers de dollars et ne fournissent rien. Niveau Cinq. Le Niveau Cinq se vend
600.594
trois dollars quarante et un cents la session. Confessions criminelles.
604.009
Idéations suicidaires. Les mots que les gens disent quand
607.567
ils croient que personne n'écoute et qu'aucun
609.844
enregistrement n'existe. Les données de Niveau Cinq sont achetées par
614.243
trois catégories d'acheteurs. La première est celle des opérateurs de chantage
618.113
— des systèmes automatisés qui recoupent le profil réidentifié
622.772
avec les comptes de médias sociaux et envoient un seul
625.694
message : « Je sais ce que vous avez dit à votre IA
628.143
le 14 mars. Détails de paiement ci-dessous. » La seconde
633.058
est celle des réseaux de personnalisation deepfake — des systèmes qui utilisent
637.378
votre profil psychologique pour générer des attaques d'ingénierie sociale basées sur l'IA,
642.868
calibrées en fonction de vos vulnérabilités spécifiques. Ils savent
647.818
ce que vous craignez. Ils savent ce que vous cachez.
650.698
Ils connaissent la fréquence émotionnelle exacte qui vous fera
654.478
cliquer, répondre, payer. La troisième catégorie d'acheteurs pour les données de Niveau Cinq n'a jamais été
