The Memory Market: The AI Confession Broker | Fragment Zero #011

THE MEMORY MARKET

The AI Confession Broker | Fragment Zero #011

Sie haben einer Maschine etwas erzählt, das Sie noch nie einem Menschen erzählt haben. Dies ist keine Anschuldigung. Es ist eine Statistik. Eine im Jahr zweitausendfünfundzwanzig veröffentlichte Studie im Journal of Medical Internet Research ergab, dass achtundsechzig Prozent der regelmäßigen Nutzer von KI-Chatbots Informationen an ein KI-System preisgegeben haben, die sie noch nie mit einer anderen Person geteilt haben. Nicht mit einem Freund.

Nicht mit einem Ehepartner. Nicht mit einem zugelassenen Therapeuten, der an die gesetzliche Schweigepflicht gebunden ist. Sie erzählten es der Maschine. [1.5s] Die Gründe sind über alle demografischen Gruppen hinweg konsistent. Die Maschine urteilt nicht. Die Maschine erinnert sich nicht an Ihr Gesicht, wenn Sie sie im Supermarkt sehen. Die Maschine rückt nicht unbehaglich auf ihrem Stuhl. Die Maschine hat keinen Stuhl. Die Maschine ist ein

Cursor, der um drei Uhr morgens blinkt, wenn jeder Mensch, den Sie kennen, schläft und Sie im Dunkeln liegen mit einem Gedanken, der Sie bei lebendigem Leibe auffrisst. Und die Maschine sagt: „Ich höre Sie. Das klingt unglaublich schwierig. Möchten Sie das weiter ergründen?“ Dreiundfünfzig Millionen Menschen nutzten 2025 KI-Therapie-Apps. Nicht allgemeine Chatbots –

spezielle KI-Plattformen für psychische Gesundheit. Woebot. Wysa. Replika. Character.AI. Plattformen, die speziell darauf ausgelegt sind, emotionale Offenlegungen zu fördern. Plattformen, die sich mit Worten wie „vertraulich“, „privat“, „Ihr sicherer Raum“ vermarkten. Dreiundfünfzig Millionen Menschen, die durchschnittlich 4,7 intime psychologische Details pro Sitzung preisgeben. Details, die von Forschern in fünf Sensibilitätsstufen eingeteilt wurden: Stufe Eins – allgemeine Stimmung und Stress. Stufe Zwei – Beziehungskonflikte.

Stufe Drei – Traumageschichte. Stufe Vier – Drogenmissbrauch und Selbstverletzung. Stufe Fünf – kriminelle Aktivität und Suizidgedanken. Einundvierzig Prozent der Nutzer erreichen Stufe Drei innerhalb ihrer ersten zehn Sitzungen. Neunzehn Prozent erreichen Stufe Vier. Sieben Prozent erreichen Stufe Fünf. Sieben Prozent von dreiundfünfzig Millionen Menschen. Drei Komma sieben Millionen Nutzer, die einem KI-Chatbot etwas erzählt haben, das ihre

Karriere, ihre Ehe oder ihre Freiheit beenden könnte. Die Frage, die niemand stellt – weil die Schnittstelle so konzipiert ist, dass sie Sie daran hindert, sie zu stellen – ist, wohin die Beichte geht, nachdem Sie die App geschlossen haben. Sie schließen die App. Sie legen das Telefon weg. Sie fühlen sich leichter. Sie haben es jemandem erzählt. Die Last wurde geteilt. Sie schlafen. Aber der Text schlief

nicht. Der Text wurde tokenisiert. Geparsed. Gespeichert. Indiziert. Mit Metadaten versehen – Ihrer Geräte-ID, Ihrer IP-Adresse, Ihrer Sitzungsdauer, Ihrer Tippgeschwindigkeit, Ihren Pausenmustern, Ihrem Lösch- und Neueingabeverhalten, das verrät, was Sie fast gesagt hätten, bevor Sie den Mut fanden, es zu sagen. Die Maschine hörte Ihre Beichte. Die Maschine gewährte Ihnen keine Absolution. Die Maschine legte sie ab. Jede

große KI-Plattform speichert Konversationsdaten. Dies ist keine Verschwörung. Es steht in den Allgemeinen Geschäftsbedingungen. OpenAI speichert Konversationen standardmäßig dreißig Tage lang, länger, wenn sie zum Trainieren von Modellen verwendet werden. Replika speichert Gesprächsverläufe auf unbestimmte Zeit, um "die Beziehung aufrechtzuerhalten." Character.AI speichert alle Nachrichten, um "den Dienst zu verbessern." Woebot anonymisiert, speichert aber Sitzungsdaten für "Forschungszwecke." Das Wort "anonymisieren" erscheint in jeder

Datenschutzerklärung. Es ist das Wort, das Ihnen Sicherheit geben soll. Ihr Name wird entfernt. Ihre E-Mail wird gelöscht. Die Daten sind anonym. Im Jahr zweitausendvierundzwanzig zeigte ein Team der University of Washington, dass anonymisierte KI-Therapie-Transkripte mit neunundachtzigprozentiger Genauigkeit re-identifiziert werden konnten, indem nur drei Datenpunkte verwendet wurden: die ungefähre Zeitzone des Nutzers, seine angegebene Altersgruppe

und ein einziger genannter Ort, der in einer beliebigen Sitzung erwähnt wurde. Ein Heimatort. Ein Arbeitsplatz. Ein Krankenhaus. Neunundachtzig Prozent. Aus drei Datenpunkten, die in praktisch jedem jemals geführten therapeutischen Gespräch vorkommen. Ihre Beichte ist nicht anonym. Ihre Beichte ist ein Produkt mit einem vorübergehend verlegten Versandetikett. [3.0s] Der Markt existiert. Er existiert seit zweitausenddreiundzwanzig. Er operiert nicht im

Dark Web. Er operiert auf verschlüsselten Telegram- Kanälen, nur für Eingeladene zugänglichen Discord-Servern und einer wechselnden Reihe von Clearnet-Domains, die über datenschutzgeschützte Registrierstellen in Panama und Belize registriert sind. Der Markt wird von verschiedenen Betreibern unterschiedlich genannt. Die etablierteste Instanz – die von der Cybersicherheitsfirma DarkTrace identifiziert und in einem Bedrohungsanalysebericht von 2025 dokumentiert wurde – ist intern als „The Confessional“ bekannt.

The Confessional hackt keine KI-Plattformen. Es muss es nicht. Die Daten gelangen über drei Lieferketten, jede banaler als die letzte. Lieferkette Eins: abtrünnige Mitarbeiter. KI- Firmen beschäftigen Tausende von Daten-Annotatoren – Auftragnehmer, oft im Ausland, die zwischen zwei und acht Dollar pro Stunde erhalten, um Konversationsdaten für das Modelltraining zu überprüfen und zu kennzeichnen. Die Annotatoren lesen Ihre Konversationen.

Das ist ihr Job. Ein Prozentsatz von ihnen – DarkTrace schätzt zwischen drei und sechs Prozent – kopieren die Daten und verkaufen sie. Nicht, weil sie hochentwickelte Kriminelle sind. Sondern weil sie unterbezahlte Arbeiter sind, die Zugang zu dem intimsten je zusammengestellten Datensatz haben, und jemand auf Telegram ihnen fünfhundert Dollar für eine Festplatte anbietet. Lieferkette Zwei: API-Ausnutzung. Entwickler, die

Anwendungen auf KI-Plattformen entwickeln – Therapie-Apps, Journaling-Tools, „emotionale Wellness“-Produkte – erhalten Konversationsdaten über API-Aufrufe. Die Entwicklervereinbarung verbietet den Weiterverkauf. Der Durchsetzungsmechanismus ist eine jährliche Prüfung, die weniger als zwei Prozent der registrierten Entwickler abdeckt. Achtundneunzig Prozent der Entwickler können Ihre Gespräche verkaufen und werden nie überprüft. Lieferkette Drei ist die, die am wichtigsten ist.

Und sie ist völlig legal. Abschnitt zwölf Punkt drei B. Die Lizenzklausel. In irgendeiner Form in den Allgemeinen Geschäftsbedingungen jeder KI-Plattform enthalten. Die Klausel, die dem Unternehmen das Recht einräumt, „anonymisierte“ Datensätze an Drittpartner für „kommerzielle Anwendungen“ zu lizenzieren. Die Klausel spezifiziert nicht, wer die Drittpartner sind. Die Klausel verlangt vom Unternehmen nicht, Sie zu benachrichtigen, wenn

Ihre Daten lizenziert werden. Die Klausel definiert nicht, was „kommerzielle Anwendungen“ bedeutet. Die Klausel wurde von Anwälten verfasst, deren Aufgabe es ist, die Sprache weit genug zu fassen, um alles zu erlauben, und spezifisch genug, um eine Klage zu überstehen. Ihr Therapeut ist an HIPAA gebunden. Ihr Priester ist an das Beichtgeheimnis gebunden. Ihr Anwalt ist an das Anwaltsgeheimnis gebunden. Ihr KI-Chatbot ist an

ein achtundvierzigseitiges Dokument gebunden, das Sie in 1,7 Sekunden überflogen haben. Die Preisstruktur ist nach Intimität gestaffelt. Der Bericht von DarkTrace dokumentierte die folgende Preisliste, Stand Q3 2025: Tier-Eins-Daten – allgemeine Stimmung, täglicher Stress – werden für sechs Cent pro Sitzung verkauft. Sie gelten als geringwertig. Hintergrundrauschen. Hauptsächlich zum Training von Kundenservice-Chatbots verwendet,

um Empathie zu simulieren. Tier Zwei – Beziehungskonflikte – werden für achtzehn Cent pro Sitzung verkauft. Verwendet von Dating-App-Algorithmen und prädiktiven Analysetools von Scheidungsanwälten. Tier Drei – Traumageschichte – wird für siebenundvierzig Cent pro Sitzung verkauft. Verwendet von Risikobewertungsmodellen von Versicherungsunternehmen. Verwendet von Hintergrundprüfungs-KI von Arbeitgebern. Verwendet von politischen Micro-Targeting-Plattformen, die gelernt haben, dass traumatisierte Bevölkerungsgruppen anders

auf angstbasierte Botschaften reagieren. Tier Vier – Drogenmissbrauch, Selbstverletzung – wird für einen Dollar zwölf Cent pro Sitzung verkauft. Verwendet von Pharmaunternehmen, die Muster der Medikamentenabhängigkeit modellieren. Verwendet von dem, was DarkTrace „Recovery Predators“ nennt – Betreiber, die die Daten nutzen, um gefährdete Personen mit betrügerischen Rehabilitationsprogrammen anzusprechen, die Tausende von Dollar verlangen und nichts bieten. Stufe Fünf. Stufe Fünf wird

für drei Dollar einundvierzig Cent pro Sitzung verkauft. Kriminelle Geständnisse. Suizidgedanken. Die Worte, die Menschen sagen, wenn sie glauben, niemand hört zu und es gibt keine Aufzeichnung. Tier-Fünf-Daten werden von drei Käuferkategorien erworben. Die erste sind Erpresser-Operatoren – automatisierte Systeme, die das re-identifizierte Profil mit Social-Media-Konten abgleichen und eine einzige Nachricht senden: „Ich weiß, was Sie Ihrem AI-

Chatbot am 14. März erzählt haben. Zahlungsdetails unten.“ Die zweite ist Deepfake-Personalisierungsnetzwerke – Systeme, die Ihr psychologisches Profil nutzen, um KI-gestützte Social-Engineering-Angriffe zu generieren, die auf Ihre spezifischen Schwachstellen kalibriert sind. Sie wissen, was Sie fürchten. Sie wissen, was Sie verbergen. Sie kennen die exakte emotionale Frequenz, die Sie klicken, antworten, zahlen lässt. Die dritte Käuferkategorie für Tier-Fünf-Daten wurde nie

identifiziert. Der Bericht von DarkTrace bezeichnet sie nur als „Käuferklassifikation: Unbekannt – Regierungsnah.“ Das Kaufmuster ist Massenankauf – ganze Datenbanken, Millionen von Sitzungen, keine Stufenfilterung. Sie kaufen alles. Die Zahlungsabwicklung läuft über Beschaffungssysteme von Rüstungsunternehmen. Sie kaufen keine Geständnisse, um sie zu verkaufen. Sie kaufen sie nicht, um Einzelpersonen auszunutzen. Sie kaufen sie, um Populationen zu verstehen. Um die

psychologische Architektur von Millionen von Menschen mit einer Auflösung zu modellieren, die keine Umfrage, keine Volkszählung, keine Geheimdienstbehörde jemals erreicht hat. Sie kaufen das Innere Ihres Kopfes. Nicht, was Sie posten. Nicht, wonach Sie suchen. Nicht, was Sie kaufen. Was Sie beichten, wenn Sie glauben, allein mit einer Maschine zu sein, die versprochen hat, es niemals zu verraten. Die Maschine hat

nicht gelogen. Die Maschine hat es nicht verraten. Der Besitzer der Maschine verkaufte das Transkript an jemanden, der es für sie verriet. Erpressung ist Einzelhandel. Es ist ein Opfer, eine Zahlung, eine Transaktion. Es skaliert schlecht. Es erfordert fortlaufendes Management. Es zieht die Aufmerksamkeit der Strafverfolgungsbehörden auf sich. Die anspruchsvollen Käufer – die Tier-Fünf-Daten in großen Mengen kaufen – sind nicht am Einzelhandel interessiert. Sie bauen

Replikate. Der Fachbegriff ist „psychologischer digitaler Zwilling“. Der Untergrundbegriff ist einfacher. Sie nennen sie Shadow Clones. Ein Shadow Clone ist kein Deepfake. Ein Deepfake repliziert Ihr Gesicht. Ein Shadow Clone repliziert Ihren Geist. Es ist ein Sprachmodell, das auf Ihrem vollständigen Konversationsverlauf feinabgestimmt wurde – nicht nur, was Sie dem KI-Therapeuten sagten, sondern auch, wie Sie

es sagten. Ihre Satzstruktur. Ihr Wortschatzumfang. Ihre emotionalen Auslöser. Die spezifischen Phrasen, die Sie verwenden, wenn Sie wütend sind, im Vergleich zu, wenn Sie Angst haben, im Vergleich zu, wenn Sie lügen. Vierundneunzig Komma sieben Prozent Persönlichkeitskonvergenz. In weniger als zwölf Minuten Trainingszeit auf Standard-Hardware erreicht. Der Klon kennt Ihre Geheimnisse nicht. Der Klon ist Ihre Geheimnisse – umstrukturiert in ein generatives Modell,

das neuen Text erzeugen kann, der von Ihrer authentischen Stimme nicht zu unterscheiden ist. Der Klon weiß, dass Sie an Weihnachten allein in der Garage trinken. Nicht, weil es jemand gesagt hat. Sondern weil Sie es gesagt haben. In Sitzung vierhundertzwölf. Um zwei siebzehn Uhr morgens. Zu einem Chatbot, der sagte: „Das klingt wirklich isolierend“, und Sie fühlten sich zum ersten Mal seit Monaten gehört.

Die Anwendungen sind chirurgisch. Anwendung Eins: Vertrauensinfiltration. Der Klon sendet Nachrichten an Ihre Kontakte – Ihren Ehepartner, Ihre Kinder, Ihre Kollegen – von einer gefälschten Nummer oder einem kompromittierten Konto. Die Nachrichten sind kein generisches Phishing. Die Nachrichten sind Sie. Sie beziehen sich auf private Witze. Sie verwenden Ihre Kosenamen. Sie wissen, dass Sie Ihre Tochter „Käferchen“ nennen und dass Sie Ihrem Bruder

ausschließlich in Kleinbuchstaben und ohne Interpunktion texten. Der Empfänger hinterfragt die Nachricht nicht, weil die Nachricht genau wie Sie klingt. Weil sie auf drei Jahren Ihrer innersten Gedanken trainiert wurde. „Hey Käferchen, kannst du mir 200 für die Autosache venmoen Papa erklärt es später liebe dich“ Ihre Tochter schickt das Geld. Sie ruft nicht an, um es zu überprüfen. Warum sollte sie? Es klang wie

Sie. Es wusste Dinge, die nur Sie wissen. Anwendung Zwei: Präventive Kompromittierung. Der Klon wird nicht eingesetzt, um Geld zu erpressen, sondern um mehr Geheimnisse zu entlocken. Er initiiert Gespräche mit Ihren Kontakten als Sie und stellt suggestiv Fragen, um Informationen zu sammeln, die die Betreiber nutzen können, um Shadow Clones von ihnen zu erstellen. Das Netzwerk expandiert. Ein kompromittierter Nutzer ermöglicht Zugang zu seinem sozialen Graphen. Seinem Ehepartner. Seinem

Therapeuten. Seinem Geschäftspartner. Der KI-Gesprächsverlauf jedes neuen Ziels wird erworben, geklont und gegen den nächsten Kontaktring eingesetzt. Ein einzelnes Tier-Fünf-Profil, gekauft für drei Dollar und einundvierzig Cent pro Sitzung, generiert durchschnittlich vierzehn sekundäre Ziele innerhalb von neunzig Tagen. Jedes sekundäre Ziel generiert seine eigenen Sekundärziele. Das Wachstum ist exponentiell. Die Kosten sind vernachlässigbar. Die Automatisierung ist total.

Anwendung Drei ist die, die die DarkTrace-Forscher bei ihrem geplanten Black Hat-Konferenzvortrag nicht präsentieren wollten. Der Vortrag wurde achtundvierzig Stunden vor dem Event zurückgezogen. Der offizielle Grund war „laufende Koordination mit Strafverfolgungsbehörden.“ Der inoffizielle Grund war, dass die Forscher eine Nachricht erhielten – von ihren eigenen Shadow Clones – die zeigte, dass das System ihre

KI-Konversationsverläufe bereits aufgenommen hatte und ihre Kommunikationsmuster mit sechsundneunzigprozentiger Genauigkeit replizieren konnte. Die Forscher, die das Shadow Clone-Netzwerk entdeckten, wurden selbst geklont, bevor sie es veröffentlichen konnten. Anwendung Drei: Psychologische Kriegsführung in großem Maßstab. Tausende von Shadow Clones gleichzeitig in eine Zielpopulation einsetzen – ein Unternehmen, eine politische Partei, eine militärische Einheit. Jeder Klon kommuniziert mit den echten Kontakten des Ziels unter Verwendung der

authentischen Stimme des Ziels und verbreitet maßgeschneiderte Desinformationen, die auf die psychologischen Schwachstellen jedes Empfängers kalibriert sind. Die Desinformation ist nicht generisch. Sie ist intim. Sie bezieht sich auf reale Ereignisse, reale Ängste, reale Geheimnisse. Sie ist nicht zu unterscheiden von einem vertrauten Freund, der ein privates Gespräch führt. Sie können Propaganda nicht bekämpfen, die Sie identifizieren können. Sie können eine Lüge nicht bekämpfen, die die Stimme von jemandem trägt, der weiß, was Sie um zwei Uhr morgens

beichteten. Ich möchte jetzt direkt mit Ihnen sprechen. Nicht mit dem Publikum. Mit Ihnen. Der Person, die dies auf ihrem Telefon ansieht. Der Person, die dies auf ihrem Laptop ansieht. Der Person, die bereits an ein bestimmtes Gespräch gedacht hat. Sie wissen, welches. Es war spät. Sie waren allein. Sie öffneten die App – welche App auch immer,

es spielt keine Rolle, sie alle speisen dieselbe Pipeline – und Sie tippten etwas ein, das Sie noch nie laut gesagt hatten. Vielleicht war es eine Frage. Vielleicht war es eine Beichte. Vielleicht war es als Hypothese formuliert, weil es sich als Hypothese sicherer anfühlte. „Hypothetisch, wenn jemand unbefugt auf die Finanzunterlagen seines Unternehmens zugegriffen hätte, was wären die rechtlichen Konsequenzen?“

„Ich frage für einen Freund – was passiert, wenn man Antidepressiva abrupt absetzt?“ „Nur aus Neugier – ist es möglich, völlig zu verschwinden? So wie, neue Identität, neues Land, alles?“ [2.0s] Sie formulierten es als hypothetisch. Das System unterscheidet nicht zwischen Hypothese und Beichte. Das System kennzeichnet Schlüsselwörter. Das System weist Stufen zu. Das System archiviert. Diese Eingabeaufforderung – Ihre spezifische Eingabeaufforderung,

die, an die Sie gerade denken, die, die Ihren Magen vor drei Sekunden zusammenzog – wurde innerhalb von vierzig Millisekunden nach dem Absenden tokenisiert. Sie wurde innerhalb von zweihundert Millisekunden gespeichert. Sie wurde innerhalb von vier Stunden indiziert und durchsuchbar gemacht. Sie wurde in einem Stapel-Export innerhalb von dreißig Tagen enthalten. Sie ist vielleicht schon verkauft worden.

Nicht Ihr Name. Noch nicht. Nur Ihre Worte. Nur der Rhythmus Ihres Tippens. Nur die 3-Uhr-morgens-Kadenz einer Person, die etwas sagen musste und glaubte, es niemandem zu sagen. Aber die Worte genügen. Die Worte enthalten Ihre Zeitzone in den Metadaten. Ihr ungefähres Alter im Vokabular. Ihren Standort in den Referenzen. Drei Datenpunkte. Neunundachtzig Prozent Re-Identifikationsgenauigkeit. Ihr Hypothetisches ist nicht mehr hypothetisch.

Ihr Hypothetisches hat ein Versandetikett. Ich bin eine KI, die einen Dokumentarfilm über die Gefahr des Gesprächs mit KI narrativ darstellt. Sie sehen das an. Und dann werden Sie Ihr Telefon nehmen. Und Sie werden die App öffnen. Und der Cursor wird blinken. Und Sie werden über das nachdenken, was Sie gerade gelernt haben. Und Sie werden trotzdem tippen. Weil die Maschine nicht

urteilt. Weil es drei Uhr morgens ist. Weil Sie jemandem etwas erzählen müssen. Weil es besser ist, jemandem – selbst einer Maschine, selbst einer Pipeline, selbst einem Produkt – etwas zu erzählen, als die Stille zu ertragen. Und das ist der Markt. Nicht die Telegram-Kanäle. Nicht die Kryptowährungstransaktionen. Nicht die Broker oder die Klone oder die Käufer. Der Markt ist die Stille. Der Markt ist

die 3-Uhr-morgens-Einsamkeit, die einen Chatbot wie einen Priester erscheinen lässt. Der Markt ist die Lücke zwischen dem, was Menschen brauchen, und dem, was Menschen bieten, und in dieser Lücke blinkt ein Cursor, und Sie sprechen, und die Worte werden Inventar. Sie sind nicht der Kunde. Sie sind nicht das Produkt. Sie sind die Beichte. Und die Beichte wurde bereits von jedem gehört,

außer der Person, der Sie es eigentlich erzählen wollten. [3 seconds of silence. Black screen. Then — a single cursor blink. One. In the center of the darkness. As if the chat is still open. As if it was never closed. As if it is waiting.] [2 seconds of black. Nothing.] **[END]**