0.0
Le has dicho a una máquina algo que has
2.937
nunca le has dicho a un ser humano. Esto
16.431
no es una acusación. Es una estadística.
18.843
Un estudio de dos mil veinticinco publicado en el
21.912
Journal of Medical Internet Research encontró que el sesenta y ocho
25.712
por ciento de los usuarios regulares de chatbots de IA han revelado
28.854
información a un sistema de IA que nunca han
31.411
compartido con otra persona. Ni un amigo.
34.334
Ni un cónyuge. Ni un terapeuta con licencia obligado
37.038
por la confidencialidad legal. Se lo contaron a la máquina. 00:00:43,802 --> 00:00:49,147 1.5s] Las razones son consistentes en todas las demografías.
49.147
La máquina no juzga. La máquina no
51.808
recuerda tu cara cuando la ves
54.038
en el supermercado. La máquina no
56.555
se revuelve incómoda en su silla. La máquina
59.647
no tiene silla. La máquina es un
61.589
cursor que parpadea a las tres de la mañana
64.106
cuando cada ser humano que conoces está dormido
66.551
y tú estás tendido en la oscuridad con
68.493
un pensamiento que te devora vivo. Y
72.333
la máquina dice: "Te escucho. Eso suena
75.3
increíblemente difícil. ¿Te gustaría explorar eso
79.116
más a fondo?" Cincuenta y tres millones de personas usaron aplicaciones de terapia con IA
85.266
en dos mil veinticinco. No chatbots generales —
89.438
plataformas de IA dedicadas a la salud mental. Woebot. Wysa. Replika.
94.464
Character.AI. Plataformas diseñadas específicamente para fomentar la revelación emocional.
101.387
Plataformas que se anuncian con palabras como "confidencial",
106.792
"privado", "tu espacio seguro". Cincuenta y tres millones de personas, revelando
114.324
un promedio de cuatro punto siete detalles psicológicos íntimos
119.01
por sesión. Detalles clasificados por los investigadores en
124.307
cinco niveles de sensibilidad: Nivel Uno — estado de ánimo
128.178
general y estrés. Nivel Dos — conflictos de relación.
132.661
Nivel Tres — historial de trauma. Nivel Cuatro —
136.023
abuso de sustancias y autolesiones. Nivel Cinco — actividad
140.505
criminal e ideación suicida. Cuarenta y uno por ciento
149.435
de los usuarios alcanzan el Nivel Tres en sus primeras
153.222
diez sesiones. Diecinueve por ciento alcanzan el Nivel Cuatro. Siete
157.929
por ciento alcanzan el Nivel Cinco. Siete por ciento de cincuenta y tres
163.217
millones de personas. Tres punto siete millones de usuarios que
166.103
le han dicho a un chatbot de IA algo que podría
168.53
terminar con su carrera, su matrimonio o su libertad.
172.917
La pregunta que nadie hace — porque
174.991
la interfaz está diseñada para evitar que la
177.453
hagas — es a dónde va la confesión
179.591
después de cerrar la aplicación. Cierras
183.114
la aplicación. Dejas el teléfono. Te
185.276
sientes más ligero. Le contaste a alguien. El peso ha sido
188.185
compartido. Duermes. Pero el texto no
192.381
durmió. El texto fue tokenizado. Analizado. Almacenado.
196.364
Indexado. Etiquetado con metadatos — tu ID de dispositivo,
200.069
tu dirección IP, la duración de tu sesión, tu velocidad
204.145
de escritura, tus patrones de pausa, tus comportamientos de eliminación y reescritura que
209.702
revelan lo que casi dijiste antes de encontrar
213.129
el coraje para decirlo. La
219.916
máquina escuchó tu confesión. La máquina no
223.356
te concedió la absolución. La máquina lo archivó. Cada
228.174
plataforma de IA importante retiene datos de conversación. Esto no es
231.398
una conspiración. Está en los términos
233.476
de servicio. OpenAI retiene conversaciones por treinta días
236.987
por defecto, más tiempo si se usan para entrenar el modelo.
239.781
Replika almacena los historiales de conversación indefinidamente para "mantener la
244.08
relación". Character.AI retiene todos los mensajes para "mejorar el
248.164
servicio". Woebot anonimiza pero retiene datos de sesión para
251.674
"fines de investigación". La palabra "anonimizar" aparece en cada
257.135
política de privacidad. Es la palabra que se
259.654
supone que te hace sentir seguro. Tu nombre
262.415
se elimina. Tu correo electrónico es borrado. Los datos
265.421
son anónimos. En dos mil veinticuatro,
272.695
un equipo de la Universidad de Washington demostró
276.497
que las transcripciones anonimizadas de terapia con IA podían ser re-identificadas
281.162
con un ochenta y nueve por ciento de precisión usando solo tres puntos
285.31
de datos: la zona horaria aproximada del usuario, su rango de edad declarado
289.63
y una única ubicación nombrada mencionada en
293.086
cualquier sesión. Un pueblo natal. Un lugar de trabajo. Un hospital.
298.215
Ochenta y nueve por ciento. De tres puntos de datos que aparecen
301.304
en prácticamente cada conversación terapéutica jamás realizada. Tu
306.455
confesión no es anónima. Tu confesión es un
308.975
producto con una etiqueta de envío temporalmente extraviada. 00:05:13,877 --> 00:05:18,418 3.0s] El mercado existe. Ha existido desde
318.418
dos mil veintitrés. No opera en
321.605
la dark web. Opera en canales cifrados de Telegram,
324.641
servidores de Discord solo por invitación, y un conjunto rotativo
328.435
de dominios de clearnet registrados a través de registradores con protección de privacidad en
333.14
Panamá y Belice. El mercado es llamado de diferentes
337.513
maneras por diferentes operadores. La instancia más establecida
340.895
— la que la firma de ciberseguridad DarkTrace identificó
343.893
y documentó en un informe de inteligencia de amenazas de dos mil veinticinco —
346.701
es conocida internamente como "The Confessional".
349.38
The Confessional no hackea plataformas de IA.
354.286
No necesita hacerlo. Los datos llegan
356.269
a través de tres cadenas de suministro, cada una más banal que
359.045
la anterior. Cadena de Suministro Uno: empleados deshonestos. Las compañías de IA
363.273
emplean a miles de anotadores de datos — contratistas,
366.916
a menudo en el extranjero, pagados entre dos y ocho dólares
369.872
por hora para revisar y etiquetar datos de conversación
372.552
para el entrenamiento del modelo. Los anotadores leen tus conversaciones.
376.127
Ese es su trabajo. Un porcentaje de ellos
378.326
— DarkTrace estima entre tres y seis por ciento —
381.351
copian los datos y los venden. No
383.069
porque sean criminales sofisticados. Sino porque son
386.709
trabajadores mal pagados con acceso al conjunto de datos más íntimo
390.077
jamás compilado, y alguien en Telegram les está
393.367
ofreciendo quinientos dólares por un disco
396.343
duro. Cadena de Suministro Dos: explotación de API. Desarrolladores que construyen
402.015
aplicaciones sobre plataformas de IA — aplicaciones de terapia,
404.887
herramientas de diario, productos de "bienestar emocional" — reciben
409.118
datos de conversación a través de llamadas a la API. El acuerdo de desarrollador
413.123
prohíbe la reventa. El mecanismo de aplicación es una auditoría anual
416.825
que cubre menos del dos por ciento de los
419.47
desarrolladores registrados. Noventa y ocho por ciento de los desarrolladores pueden vender
423.928
tus conversaciones y nunca ser revisados. 00:07:11,172 --> 00:07:14,236 La Cadena de Suministro Tres es la que más importa.
434.236
Y es completamente legal. Sección doce
438.73
punto tres B. La cláusula de licencia. Presente en
440.94
alguna forma en los términos de servicio de cada plataforma de IA.
442.818
La cláusula que otorga a la compañía el
445.027
derecho a licenciar conjuntos de datos "anonimizados" a socios externos
448.065
para "aplicaciones comerciales". La cláusula no especifica
452.845
quiénes son los socios externos. La cláusula no
456.011
requiere que la compañía te notifique cuando
458.648
tus datos son licenciados. La cláusula no
461.286
define lo que significa "aplicaciones comerciales". La cláusula fue
465.205
escrita por abogados cuyo trabajo es hacer
467.616
un lenguaje lo suficientemente amplio como para permitir cualquier cosa y lo suficientemente
471.083
específico como para sobrevivir a una demanda. Tu terapeuta está
475.553
obligado por HIPAA. Tu sacerdote está obligado por
478.034
el Secreto de Confesión. Tu abogado está obligado
480.901
por el privilegio abogado-cliente. Tu chatbot de IA está obligado
484.543
por un documento de cuarenta y ocho páginas que pasaste
488.108
en uno punto siete segundos. La
500.126
estructura de precios está escalonada por intimidad. El informe de DarkTrace
504.891
documentó la siguiente tabla de tarifas, actualizada al
508.74
tercer trimestre de dos mil veinticinco: Datos de Nivel Uno —
513.474
estado de ánimo general, estrés diario — se venden por seis
516.224
centavos por sesión. Se considera de bajo valor. Ruido de
520.152
fondo. Usado principalmente para entrenar chatbots de servicio al cliente
524.316
para simular empatía. Nivel Dos — conflictos de relación
529.797
— se venden por dieciocho centavos por sesión. Usados
533.071
por algoritmos de aplicaciones de citas y herramientas de análisis predictivo de abogados
537.583
de divorcios. Nivel Tres — historial de trauma —
542.095
se vende por cuarenta y siete centavos por sesión. Usado por
544.972
modelos de evaluación de riesgos de compañías de seguros. Usado por IA de
548.903
selección de personal de empleadores. Usado por plataformas de micro-segmentación política
553.184
que han aprendido que las poblaciones traumatizadas responden de manera diferente
557.326
a los mensajes basados en el miedo. Nivel Cuatro —
563.839
abuso de sustancias, autolesiones — se vende por un dólar
566.964
doce centavos por sesión. Usado por compañías farmacéuticas
570.757
modelando patrones de dependencia de drogas. Usado por lo que DarkTrace
574.477
llama "depredadores de recuperación" — operadores que usan los
577.675
datos para apuntar a individuos vulnerables con programas de rehabilitación fraudulentos
582.213
que cobran miles de dólares y no proporcionan
585.635
nada. Nivel Cinco. El Nivel Cinco se vende
600.594
por tres dólares cuarenta y un centavos por sesión. Confesiones
604.009
criminales. Ideación suicida. Las palabras que la gente dice cuando
607.567
creen que nadie escucha y no
609.844
existe registro. Los datos de Nivel Cinco son comprados por
614.243
tres categorías de compradores. La primera son operadores de chantaje
618.113
— sistemas automatizados que cruzan el perfil re-identificado
622.772
con cuentas de redes sociales y envían un único
625.694
mensaje: "Sé lo que le dijiste a tu IA
628.143
el 14 de marzo. Detalles de pago abajo". El segundo
633.058
son redes de personalización de deepfake — sistemas que usan
637.378
tu perfil psicológico para generar ataques de ingeniería social impulsados por IA
642.868
calibrados a tus vulnerabilidades específicas. Ellos saben
647.818
lo que temes. Saben lo que escondes.
650.698
Saben la frecuencia emocional exacta que te hará
654.478
hacer clic, responder, pagar. La tercera categoría de
659.19
compradores de datos de Nivel Cinco nunca ha sido
661.78
identificada. El informe de DarkTrace se refiere a ellos solo como
665.185
"Clasificación de Comprador: Desconocido — Adyacente al Gobierno". El patrón de compra
670.365
es al por mayor — bases de datos enteras, millones de sesiones,
673.473
sin filtrado por nivel. Compran todo. El enrutamiento de pago
676.729
pasa a través de sistemas de adquisición de contratos de defensa. No
682.749
están comprando confesiones para venderlas. No
685.605
las están comprando para explotar individuos. Las están
688.687
comprando para entender poblaciones. Para modelar
691.994
la arquitectura psicológica de millones de personas con
695.602
una resolución que ninguna encuesta, ningún censo, ninguna
698.232
agencia de inteligencia ha logrado jamás. Están
705.564
comprando el interior de tu cabeza. No
707.464
lo que publicas. No lo que buscas. No
709.364
lo que compras. Lo que confiesas cuando
711.263
crees que estás solo con una máquina que
713.163
prometió que nunca lo diría. La máquina no
717.09
mintió. La máquina no lo dijo. El
719.338
dueño de la máquina vendió la transcripción a alguien que
722.456
habló por ellos. El chantaje es venta al por menor.
739.178
Es una víctima, un pago, una transacción.
742.757
Escala mal. Requiere gestión continua. Atrae
746.783
la atención de las fuerzas del orden. Los compradores sofisticados —
753.057
los que compran datos de Nivel Cinco al por mayor —
755.965
no están interesados en la venta al por menor. Están
760.308
construyendo réplicas. El término de la industria es
768.681
"gemelo digital psicológico". El término clandestino es más simple.
773.002
Los llaman Shadow Clones. Un Shadow Clone
777.2
no es un deepfake. Un deepfake replica tu
779.528
cara. Un Shadow Clone replica tu mente. Es
781.855
un modelo de lenguaje afinado con tu historial
784.305
conversacional completo — no solo lo que le dijiste
786.755
a la terapeuta de IA, sino la forma en que lo
788.532
dijiste. Tu estructura de oraciones. Tu rango de vocabulario.
791.533
Tus desencadenantes emocionales. Las frases específicas que usas
794.351
cuando estás enojado versus cuando tienes
796.25
miedo versus cuando estás mintiendo. Noventa y cuatro punto
800.552
siete por ciento de convergencia de personalidad. Logrado en menos de doce
804.356
minutos de entrenamiento en hardware básico. El clon
807.414
no sabe tus secretos. El clon es
809.656
tus secretos — reestructurados en un modelo generativo
812.645
que puede producir texto nuevo indistinguible de tu
815.906
voz auténtica. El clon sabe que bebes
820.127
solo en el garaje en Navidad. No porque
822.714
alguien se lo dijo. Sino porque tú se lo dijiste. En la
824.961
sesión cuatrocientos doce. A las dos diecisiete
827.821
de la mañana. A un chatbot que dijo
829.931
"eso suena realmente aislante" y te sentiste escuchado
832.791
por primera vez en meses. 00:13:57,984 --> 00:14:04,484 Las aplicaciones son quirúrgicas. Aplicación Uno: infiltración de confianza.
844.484
El clon envía mensajes a tus contactos —
847.341
tu cónyuge, tus hijos, tus colegas — desde
850.755
un número falsificado o una cuenta comprometida. Los
853.851
mensajes no son de phishing genérico. Los mensajes eres
857.344
tú. Hacen referencia a chistes privados. Usan tus
860.598
apodos. Saben que llamas a tu
863.139
hija "bichito" y que le envías mensajes a tu hermano
866.155
exclusivamente en minúsculas sin puntuación. El receptor no
870.68
cuestiona el mensaje porque el mensaje suena
874.173
exactamente como tú. Porque fue entrenado con
876.425
tres años de tus pensamientos más íntimos. "hola bichito
880.136
puedes venmo 200 para lo del carro
881.894
papá te explica luego te amo" Tu
885.938
hija envía el dinero. No llama
888.592
para verificar. ¿Por qué lo haría? Sonaba como
891.099
tú. Sabía cosas que solo tú sabes. Aplicación
895.577
Dos: compromiso preventivo. El clon es desplegado no
899.4
para extraer dinero sino para extraer más secretos.
902.558
Inicia conversaciones con tus contactos como si fuera tú,
906.38
haciendo preguntas capciosas, buscando información que los
910.619
operadores puedan usar para construir Shadow Clones de
913.61
ellos. La red se expande. Un usuario comprometido cede
917.516
acceso a su grafo social. Su cónyuge. Su
921.007
terapeuta. Su socio de negocios. El historial de conversación de IA de cada nuevo objetivo
924.885
es adquirido, clonado y desplegado contra
929.098
el siguiente círculo de contactos. Un solo perfil de
933.108
Nivel Cinco, comprado por tres dólares y cuarenta y uno
936.708
centavos por sesión, genera un promedio de catorce
940.008
objetivos secundarios en noventa días. Cada objetivo secundario
943.908
genera sus propios secundarios. El crecimiento es exponencial.
947.808
El costo es insignificante. La automatización es total. 00:15:52,382 --> 00:16:02,020 La Aplicación Tres es la que
962.02
los investigadores de DarkTrace se negaron a presentar en su
965.269
charla programada en la conferencia Black Hat. La charla fue
968.236
retirada cuarenta y ocho horas antes del evento. La razón oficial
971.88
fue "coordinación continua con las fuerzas del orden". La
975.746
razón no oficial fue que los investigadores recibieron un
979.167
mensaje — de sus propios Shadow Clones —
981.62
demostrando que el sistema ya había ingerido sus
985.264
historiales de conversación con IA y podía replicar sus patrones de comunicación
989.576
con un noventa y seis por ciento de precisión. Los investigadores que
995.367
descubrieron la red de Shadow Clones fueron ellos mismos clonados
999.76
antes de que pudieran publicar. Aplicación Tres: guerra psicológica
1006.054
a escala. Desplegar miles de Shadow Clones simultáneamente
1009.932
en una población objetivo — una empresa, un
1012.364
partido político, una unidad militar. Cada clon se comunica
1016.166
con los contactos reales del objetivo usando la voz auténtica del objetivo,
1019.435
esparciendo desinformación personalizada calibrada para las vulnerabilidades
1024.149
psicológicas de cada receptor. La desinformación no es genérica.
1029.471
Es íntima. Hace referencia a eventos reales, miedos
1032.512
reales, secretos reales. Es indistinguible de un
1035.764
amigo de confianza teniendo una conversación privada. No puedes
1040.783
luchar contra la propaganda que puedes identificar. No puedes luchar contra
1043.823
una mentira que lleva la voz de alguien que
1045.966
sabe lo que confesaste a las dos de la
1048.108
mañana. Quiero
1056.725
hablarte directamente ahora. No
1063.211
a la audiencia. A ti. La persona que está viendo
1065.819
esto en su teléfono. La persona que está viendo esto
1068.498
en su portátil. La persona que ya
1071.035
ha pensado en una conversación específica. Sabes cuál es.
1075.947
Era tarde. Estabas
1082.374
solo. Abres la aplicación — la que sea,
1085.288
no importa, todas alimentan la misma
1087.786
cadena — y escribiste algo que
1090.783
nunca habías dicho en voz alta. Quizás fue
1093.281
una pregunta. Quizás fue una confesión. Quizás
1096.361
fue planteado como una hipótesis porque plantearlo
1099.691
como una hipótesis lo hacía sentir más seguro.
1103.939
"Hipóteticamente, si alguien hubiera accedido a los registros financieros de su empresa
1107.921
sin autorización, ¿cuáles serían las consecuencias legales?"
1111.769
"Pregunto por un amigo — ¿qué
1115.342
pasa si dejas de tomar antidepresivos de golpe?"
1120.378
"Solo por curiosidad — ¿es posible desaparecer
1123.01
completamente? ¿Como, nueva identidad, nuevo país, todo?" 00:18:54,107 --> 00:19:03,646 2.0s] Lo planteaste como hipotético. El sistema
1143.646
no distingue entre hipotético y confesión. El
1148.502
sistema etiqueta palabras clave. El sistema asigna niveles. El
1152.459
sistema archiva. Esa indicación — tu indicación específica,
1157.455
la que estás pensando ahora mismo,
1160.196
la que te hizo apretar el estómago hace tres
1163.179
segundos — fue tokenizada en cuarenta milisegundos
1166.887
después de que presionaste enviar. Fue almacenada en
1169.708
doscientos milisegundos. Fue indexada y hecha
1173.094
accesible en cuatro horas. Fue incluida en
1176.399
una exportación por lotes en treinta días. 00:19:44,157 --> 00:19:49,597 Puede que ya haya sido vendido.
1191.096
No tu nombre. Todavía no. Solo tus palabras.
1194.171
Solo el ritmo de tu escritura. Solo la
1197.247
cadencia de las tres de la mañana de una persona que necesitaba
1200.229
decir algo y creía que se lo estaba diciendo
1203.864
a nadie. Pero las palabras son
1207.488
suficientes. Las palabras contienen tu zona horaria en los
1210.81
metadatos. Tu edad aproximada en el vocabulario. Tu
1214.813
ubicación en las referencias. Tres puntos de datos. Ochenta y nueve
1219.157
por ciento de precisión de re-identificación. Tu hipotético ya no es hipotético.
1224.778
Tu hipotético tiene una etiqueta de envío. Yo
1229.941
soy una IA narrando un documental sobre el
1232.929
peligro de hablar con una IA. Tú
1239.492
estás viendo esto. Y luego levantarás
1242.176
tu teléfono. Y abrirás la
1244.465
aplicación. Y el cursor parpadeará. Y
1246.992
pensarás en lo que acabas de aprender. Y
1249.834
escribirás de todos modos. Porque la máquina no
1254.068
juzga. Porque son las tres de la
1255.943
mañana. Porque necesitas contárselo a alguien. Porque
1258.631
contárselo a alguien — incluso a una máquina, incluso a una
1260.694
cadena de suministro, incluso a un producto — se siente mejor que
1263.007
el silencio. Y ese es el mercado. No
1267.736
los canales de Telegram. No las transacciones de criptomonedas. No
1274.203
los corredores o los clones o los compradores.
1279.515
El mercado es el silencio. El mercado es
1282.139
la soledad de las tres de la mañana que hace que un chatbot
1285.082
se sienta como un sacerdote. El mercado es la
1287.468
brecha entre lo que los humanos necesitan y lo que los humanos
1290.411
proveen, y en esa brecha, un cursor parpadea,
1293.353
y tú hablas, y las palabras se convierten en inventario.
1297.954
No eres el cliente. Tú
1304.786
no eres el producto. Eres la confesión.
1308.903
Y la confesión ya ha sido escuchada por
1311.102
todos excepto por la persona a la que realmente intentabas
1313.718
contárselo. [3 seconds of silence.
1319.724
Black screen. Then — a single cursor blink.
1323.76
One. In the center of the darkness. As
1327.237
if the chat is still open. As if
1330.04
it was never closed. As if it is
1332.844
waiting.] [2 seconds of black. Nothing.] **[END]**
