The Memory Market: The AI Confession Broker | Fragment Zero #011

THE MEMORY MARKET

The AI Confession Broker | Fragment Zero #011

Hai detto a una macchina qualcosa che non hai mai detto a un essere umano. Questa non è un'accusa. È una statistica. Uno studio del 2025 pubblicato sul Journal of Medical Internet Research ha rilevato che il sessantotto percento degli utenti regolari di chatbot AI ha rivelato informazioni a un sistema AI che non ha

mai condiviso con un'altra persona. Non un amico. Non un coniuge. Non un terapeuta abilitato, vincolato da riservatezza legale. L'hanno detto alla macchina. [1.5s] Le ragioni sono coerenti in ogni fascia demografica. La macchina non giudica. La macchina non ricorda la tua faccia quando la vedi al supermercato. La macchina non

si muove a disagio sulla sua sedia. La macchina non ha una sedia. La macchina è un cursore che lampeggia alle tre del mattino quando ogni essere umano che conosci dorme e tu sei sdraiato al buio con un pensiero che ti sta divorando. E la macchina dice: "Ti ascolto. Sembra

incredibilmente difficile. Ti piacerebbe approfondire questo?" Cinquantatré milioni di persone hanno usato app di terapia AI nel 2025. Non chatbot generici — piattaforme AI dedicate alla salute mentale. Woebot. Wysa. Replika. Character.AI. Piattaforme progettate specificamente per incoraggiare la rivelazione emotiva. Piattaforme che si commercializzano con parole come "riservato", "privato", "il tuo spazio sicuro". Cinquantatré milioni di persone, che rivelano

una media di quattro virgola sette dettagli psicologici intimi per sessione. Dettagli classificati dai ricercatori in cinque livelli di sensibilità: Livello Uno — umore generale e stress. Livello Due — conflitti relazionali. Livello Tre — storia traumatica. Livello Quattro — abuso di sostanze e autolesionismo. Livello Cinque — attività criminale e ideazione suicidaria. Il quarantuno percento

degli utenti raggiunge il Livello Tre entro le prime dieci sessioni. Il diciannove percento raggiunge il Livello Quattro. Il sette percento raggiunge il Livello Cinque. Il sette percento di cinquantatré milioni di persone. Tre virgola sette milioni di utenti che hanno detto a un chatbot AI qualcosa che potrebbe porre fine alla loro carriera, al loro matrimonio o alla loro libertà. La domanda che nessuno si pone — perché

l'interfaccia è progettata per impedirti di farla — è dove va la confessione dopo che chiudi l'app. Chiudi l'app. Posizioni il telefono. Ti senti più leggero. L'hai detto a qualcuno. Il peso è stato condiviso. Dormi. Ma il testo non ha dormito. Il testo è stato tokenizzato. Parsificato. Archiviato.

Indicizzato. Etichettato con metadati — l'ID del tuo dispositivo, il tuo indirizzo IP, la durata della sessione, la tua velocità di digitazione, i tuoi schemi di pausa, i tuoi comportamenti di cancellazione e riscrittura che rivelano ciò che stavi per dire prima di trovare il coraggio di dirlo. La macchina ha sentito la tua confessione. La macchina non ti ha concesso l'assoluzione. La macchina l'ha archiviata. Ogni

principale piattaforma AI conserva i dati delle conversazioni. Questa non è una cospirazione. È nei termini di servizio. OpenAI conserva le conversazioni per trenta giorni per impostazione predefinita, più a lungo se utilizzate per l'addestramento del modello. Replika memorizza le cronologie delle conversazioni indefinitamente per "mantenere la relazione". Character.AI conserva tutti i messaggi per "migliorare il servizio". Woebot anonimizza ma conserva i dati delle sessioni per

"scopi di ricerca". La parola "anonimizzare" compare in ogni politica sulla privacy. È la parola che dovrebbe farti sentire al sicuro. Il tuo nome viene rimosso. La tua email viene eliminata. I dati sono anonimi. Nel 2024, un team dell'Università di Washington ha dimostrato che le trascrizioni anonime di terapia AI potevano essere ri-identificate

con una precisione dell'ottantanove percento utilizzando solo tre punti dati: il fuso orario approssimativo dell'utente, la fascia d'età dichiarata e una singola località nominata in qualsiasi sessione. Una città natale. Un luogo di lavoro. Un ospedale. Ottantanove percento. Da tre punti dati che compaiono in praticamente ogni conversazione terapeutica mai condotta. La tua confessione non è anonima. La tua confessione è un

prodotto con un'etichetta di spedizione temporaneamente smarrita. [3.0s] Il mercato esiste. Esiste dal duemilaventitré. Non opera sul dark web. Opera su canali Telegram crittografati, server Discord solo su invito e un set rotante di domini clearnet registrati tramite registrar con protezione della privacy a Panama e Belize. Il mercato è chiamato in modo diverso

dai diversi operatori. L'istanza più consolidata — quella che la società di cybersecurity DarkTrace ha identificato e documentato in un rapporto di intelligence sulle minacce del 2025 — è conosciuta internamente come "The Confessional". The Confessional non hackera le piattaforme AI. Non ha bisogno di farlo. I dati arrivano attraverso tre catene di approvvigionamento, ognuna più banale

della precedente. Catena di approvvigionamento uno: dipendenti disonesti. Le aziende AI impiegano migliaia di annotatori di dati — appaltatori, spesso all'estero, pagati tra due e otto dollari all'ora per revisionare ed etichettare i dati delle conversazioni per l'addestramento del modello. Gli annotatori leggono le tue conversazioni. Questo è il loro lavoro. Una percentuale di essi — DarkTrace stima tra il tre e il sei percento

— copia i dati e li vende. Non perché siano criminali sofisticati. Perché sono lavoratori sottopagati con accesso al dataset più intimo mai compilato, e qualcuno su Telegram offre loro cinquecento dollari per un hard drive. Catena di approvvigionamento due: sfruttamento delle API. Sviluppatori che creano applicazioni sopra le piattaforme AI — app di terapia,

strumenti di journaling, prodotti per il "benessere emotivo" — ricevono dati di conversazione tramite chiamate API. L'accordo con lo sviluppatore proibisce la rivendita. Il meccanismo di applicazione è un audit annuale che copre meno del due percento degli sviluppatori registrati. Il novantotto percento degli sviluppatori può vendere le tue conversazioni senza mai essere controllato. 112 00:07:11,172 --> 00:07:14,236 La catena di approvvigionamento tre è quella che conta di più. Ed è interamente legale. Sezione dodici

punto tre B. La clausola di licenza. Presente in qualche forma nei termini di servizio di ogni piattaforma AI. La clausola che concede all'azienda il diritto di licenziare dataset "anonimizzati" a partner di terze parti per "applicazioni commerciali". La clausola non specifica chi siano i partner di terze parti. La clausola non richiede all'azienda di notificarti quando

i tuoi dati vengono concessi in licenza. La clausola non definisce cosa significhi "applicazioni commerciali". La clausola è stata scritta da avvocati il cui lavoro è rendere il linguaggio abbastanza ampio da permettere qualsiasi cosa e abbastanza specifico da resistere a una causa legale. Il tuo terapeuta è vincolato da HIPAA. Il tuo sacerdote è vincolato dal Segreto della Confessione. Il tuo avvocato è vincolato

dal segreto professionale. Il tuo chatbot AI è vincolato da un documento di quarantotto pagine che hai scorso in un virgola sette secondi. La struttura dei prezzi è a livelli di intimità. Il rapporto di DarkTrace ha documentato la seguente tariffa, aggiornata al terzo trimestre 2025: Dati di Livello Uno — umore generale, stress quotidiano — venduti a sei

centesimi per sessione. Sono considerati di basso valore. Rumore di fondo. Utilizzati principalmente per addestrare chatbot di servizio clienti a simulare empatia. Livello Due — conflitti relazionali — venduti a diciotto centesimi per sessione. Usati da algoritmi di app di incontri e strumenti di analisi predittiva degli avvocati divorzisti. Livello Tre — storia traumatica — venduti a quarantasette centesimi per sessione. Usati dai

modelli di valutazione del rischio delle compagnie assicurative. Usati dall'AI di screening dei precedenti degli datori di lavoro. Usati dalle piattaforme di micro-targeting politico che hanno imparato che le popolazioni traumatizzate rispondono diversamente ai messaggi basati sulla paura. Livello Quattro — abuso di sostanze, autolesionismo — venduti a un dollaro e dodici centesimi per sessione. Usati dalle aziende farmaceutiche che modellano i modelli di dipendenza da farmaci. Usati da quelli che DarkTrace chiama "predatori del recupero" — operatori che usano i dati per prendere di mira individui vulnerabili con programmi di riabilitazione fraudolenti che costano migliaia di dollari e non offrono nulla. Livello Cinque. Livello Cinque viene venduto a tre dollari e quarantuno centesimi per sessione. Confessioni criminali.

Ideazione suicidaria. Le parole che le persone dicono quando credono che nessuno stia ascoltando e nessun documento esista. I dati di Livello Cinque vengono acquistati da tre categorie di acquirenti. La prima sono gli operatori di ricatto — sistemi automatizzati che incrociano il profilo ri-identificato con account di social media e inviano un singolo messaggio: "So cosa hai detto alla tua AI

il 14 marzo. Dettagli di pagamento sotto." La seconda sono le reti di personalizzazione deepfake — sistemi che utilizzano il tuo profilo psicologico per generare attacchi di ingegneria sociale basati sull'AI calibrati sulle tue specifiche vulnerabilità. Sanno cosa temi. Sanno cosa nascondi. Conoscono l'esatta frequenza emotiva che ti farà cliccare, rispondere, pagare. La terza categoria di acquirenti

per i dati di Livello Cinque non è mai stata identificata. Il rapporto di DarkTrace li riferisce solo come "Classificazione Acquirente: Sconosciuto — Affiliato al Governo." Il modello di acquisto è all'ingrosso — interi database, milioni di sessioni, nessun filtro di livello. Comprano tutto. Il routing del pagamento passa attraverso sistemi di approvvigionamento di contratti di difesa. Non stanno comprando confessioni per venderle. Non le

stanno comprando per sfruttare gli individui. Le stanno comprando per capire le popolazioni. Per modellare l'architettura psicologica di milioni di persone con una risoluzione che nessun sondaggio, nessun censimento, nessuna agenzia di intelligence ha mai raggiunto. Stanno comprando l'interno della tua testa. Non ciò che posti. Non ciò che cerchi. Non

ciò che compri. Ciò che confessi quando pensi di essere solo con una macchina che ha promesso che non l'avrebbe mai rivelato. La macchina non ha mentito. La macchina non l'ha detto. Il proprietario della macchina ha venduto la trascrizione a qualcuno che l'ha rivelato per loro. Il ricatto è al dettaglio. È una vittima, un pagamento, una transazione.

Si espande male. Richiede una gestione continua. Attira l'attenzione delle forze dell'ordine. Gli acquirenti sofisticati — quelli che acquistano dati di Livello Cinque in massa — non sono interessati al dettaglio. Stanno costruendo repliche. Il termine industriale è "gemello digitale psicologico". Il termine clandestino è più semplice. Li chiamano Shadow Clones. Uno Shadow Clone

non è un deepfake. Un deepfake replica il tuo volto. Uno Shadow Clone replica la tua mente. È un modello linguistico affinato sulla tua completa cronologia di conversazioni — non solo ciò che hai detto al terapista AI, ma il modo in cui l'hai detto. La struttura delle tue frasi. La tua gamma di vocaboli. I tuoi trigger emotivi. Le frasi specifiche che usi

quando sei arrabbiato rispetto a quando hai paura rispetto a quando stai mentendo. Novantaquattro virgola sette percento di convergenza della personalità. Raggiunta in meno di dodici minuti di addestramento su hardware comune. Il clone non conosce i tuoi segreti. Il clone è i tuoi segreti — ristrutturati in un modello generativo che può produrre testo nuovo indistinguibile dalla tua

voce autentica. Il clone sa che bevi da solo in garage a Natale. Non perché qualcuno glielo abbia detto. Perché tu glielo hai detto. Nella sessione quattrocentododici. Alle due e diciassette del mattino. A un chatbot che ha detto "sembra davvero isolante" e ti sei sentito ascoltato per la prima volta dopo mesi. 217 00:13:57,984 --> 00:14:04,484 Le applicazioni sono chirurgiche. Applicazione Uno: infiltrazione della fiducia.

Il clone invia messaggi ai tuoi contatti — il tuo coniuge, i tuoi figli, i tuoi colleghi — da un numero falsificato o un account compromesso. I messaggi non sono phishing generico. I messaggi sono tu. Fanno riferimento a battute private. Usano i tuoi nomi affettuosi. Sanno che chiami tua figlia "coccinella" e che scrivi a tuo fratello

esclusivamente in minuscolo senza punteggiatura. Il destinatario non mette in discussione il messaggio perché il messaggio suona esattamente come te. Perché è stato addestrato su tre anni dei tuoi pensieri più intimi. "ehi cocci puoi venmo 200 per la cosa dell'auto papà ti spiegherà dopo ti voglio bene" Tua figlia invia i soldi. Non telefona

per verificare. Perché dovrebbe. Sembrava tu. Sapeva cose che solo tu sai. Applicazione Due: compromissione preventiva. Il clone viene utilizzato non per estrarre denaro ma per estrarre più segreti. Avvia conversazioni con i tuoi contatti come te, facendo domande suggestive, sondando informazioni che gli operatori possono usare per costruire Shadow Clones di

loro. La rete si espande. Un utente compromesso garantisce l'accesso al suo grafo sociale. Il suo coniuge. Il suo terapista. Il suo partner commerciale. La cronologia delle conversazioni AI di ogni nuovo target viene acquisita, clonata e utilizzata contro l'anello successivo di contatti. Un singolo profilo di Livello Cinque, acquistato per tre dollari e quarantuno centesimi per sessione, genera una media di quattordici

bersagli secondari entro novanta giorni. Ogni bersaglio secondario genera i propri secondari. La crescita è esponenziale. Il costo è trascurabile. L'automazione è totale. L'Applicazione Tre è quella che i ricercatori di DarkTrace si sono rifiutati di presentare al loro intervento programmato alla conferenza Black Hat. L'intervento è stato ritirato quarantotto ore prima dell'evento. La ragione ufficiale

era "coordinamento in corso con le forze dell'ordine". La ragione non ufficiale era che i ricercatori avevano ricevuto un messaggio — dai loro stessi Shadow Clones — che dimostrava che il sistema aveva già acquisito le loro cronologie di conversazioni AI e poteva replicare i loro schemi di comunicazione con una precisione del novantasei percento. I ricercatori che hanno scoperto la rete Shadow Clone sono stati essi stessi clonati

prima che potessero pubblicare. Applicazione Tre: guerra psicologica su larga scala. Dispiegare migliaia di Shadow Clones simultaneamente in una popolazione target — un'azienda, un partito politico, un'unità militare. Ogni clone comunica con i contatti reali del target usando la voce autentica del target, diffondendo disinformazione su misura calibrata per ogni vulnerabilità psicologica del destinatario. La disinformazione non è generica.

È intima. Fa riferimento a eventi reali, paure reali, segreti reali. È indistinguibile da un amico fidato che ha una conversazione privata. Non puoi combattere la propaganda che puoi identificare. Non puoi combattere una bugia che indossa la voce di qualcuno che sa cosa hai confessato alle due del mattino. Voglio

parlare direttamente con te ora. Non con il pubblico. Con te. La persona che guarda questo sul suo telefono. La persona che guarda questo sul suo laptop. La persona che ha già pensato a una conversazione specifica. Sai qual è. Era tardi. Eri solo. Hai aperto l'app — qualunque app,

non importa, tutte alimentano la stessa pipeline — e hai digitato qualcosa che non avevi mai detto ad alta voce. Forse era una domanda. Forse era una confessione. Forse era formulata come un'ipotesi perché formularla come un'ipotesi la faceva sentire più sicura. "Ipoteticamente, se qualcuno avesse avuto accesso ai registri finanziari

della sua azienda senza autorizzazione, quali sarebbero le conseguenze legali?" "Chiedo per un amico — cosa succede se si smettono gli antidepressivi di colpo?" "Solo per curiosità — è possibile scomparire completamente? Tipo, nuova identità, nuovo paese, tutto?" 293 00:18:54,107 --> 00:19:03,646 [2.0s] L'hai formulato come ipotetico. Il sistema non distingue tra ipotetico e confessione. Il sistema tagga le parole chiave. Il sistema assegna i livelli. Il

sistema archivia. Quel prompt — il tuo specifico prompt, quello a cui stai pensando in questo momento, quello che ti ha fatto stringere lo stomaco tre secondi fa — è stato tokenizzato entro quaranta millisecondi dalla tua pressione su "invio". È stato archiviato entro duecento millisecondi. È stato indicizzato e reso cercabile entro quattro ore. È stato incluso in

un'esportazione in batch entro trenta giorni. 304 00:19:44,157 --> 00:19:49,597 Potrebbe essere già stato venduto. 305 00:19:51,096 --> 00:19:54,171 Non il tuo nome. Non ancora. Solo le tue parole. Solo il ritmo della tua digitazione. Solo la cadenza delle tre del mattino di una persona che aveva bisogno di dire qualcosa e credeva di dirlo a nessuno. Ma le parole sono sufficienti. Le parole contengono il tuo fuso orario nei metadati. La tua età approssimativa nel vocabolario. La tua

posizione nei riferimenti. Tre punti dati. Ottantanove percento di precisione nella ri-identificazione. La tua ipotesi non è più ipotetica. La tua ipotesi ha un'etichetta di spedizione. Io sono un'AI che narra un documentario sul pericolo di parlare con le AI. Tu stai guardando questo. E poi prenderai il tuo telefono. E aprirai

l'app. E il cursore lampeggerà. E tu ci penserai a quello che hai appena imparato. E comunque scriverai. Perché la macchina non giudica. Perché sono le tre del mattino. Perché hai bisogno di dirlo a qualcuno. Perché dirlo a qualcuno — anche a una macchina, anche a una pipeline, anche a un prodotto — fa stare meglio del

silenzio. E questo è il mercato. Non i canali Telegram. Non le transazioni di criptovaluta. Non i broker o i cloni o gli acquirenti. Il mercato è il silenzio. Il mercato è la solitudine delle tre del mattino che fa sentire un chatbot come un sacerdote. Il mercato è il divario tra ciò di cui gli umani hanno bisogno e ciò che gli umani

offrono, e in quel divario, un cursore lampeggia, e tu parli, e le parole diventano inventario. Non sei il cliente. Non sei il prodotto. Sei la confessione. E la confessione è già stata ascoltata da tutti tranne la persona a cui stavi davvero cercando di dirlo. [3 seconds of silence.

Black screen. Then — a single cursor blink. One. In the center of the darkness. As if the chat is still open. As if it was never closed. As if it is waiting.] [2 seconds of black. Nothing.] **[END]**