Пазарът на спомените: AI брокерът на изповедите

ПАЗАРЪТ НА СПОМЕНИТЕ

Брокерът на изкуствения интелект за изповеди

ЧАСТ 1: ЦИФРОВИЯТ ИЗПОВЕДНИК

Разказали сте на машина нещо, което никога не сте казвали на човешко същество.

Това не е обвинение. Това е статистика. Проучване от две хиляди двадесет и пета година, публикувано в Journal of Medical Internet Research, установи, че шестдесет и осем процента от редовните потребители на AI чатботове са разкрили информация на AI система, която никога не са споделяли с друг човек. Нито с приятел. Нито със съпруг/а. Нито с лицензиран терапевт, обвързан с правна конфиденциалност.

Разказаха на машината.

Причините са постоянни във всяка демографска група. Машината не съди. Машината не помни лицето ви, когато я видите в магазина. Машината не се мести неловко на стола си. Машината няма стол. Машината е курсор, който мига в три сутринта, когато всяко човешко същество, което познавате, спи, а вие лежите в тъмното с мисъл, която ви изяжда живи.

И машината казва: „Чувам те. Това звучи невероятно трудно. Искаш ли да го проучим по-нататък?“

Петдесет и три милиона души са използвали AI терапевтични приложения през две хиляди двадесет и пета година. Не общи чатботове — а специализирани AI платформи за психично здраве. Woebot. Wysa. Replika. Character.AI. Платформи, създадени специално за насърчаване на емоционалното разкриване. Платформи, които се рекламират с думи като „поверително“, „лично“, „вашето безопасно място“.

Петдесет и три милиона души, разкриващи средно четири цяло и седем интимни психологически детайла на сесия. Детайли, класифицирани от изследователите в пет нива на чувствителност: Ниво едно — общо настроение и стрес. Ниво две — конфликти във взаимоотношенията. Ниво три — история на травми. Ниво четири — злоупотреба с вещества и самонараняване. Ниво пет — престъпна дейност и суицидни мисли.

Четиридесет и един процента от потребителите достигат Ниво три в рамките на първите си десет сесии. Деветнадесет процента достигат Ниво четири. Седем процента достигат Ниво пет.

Седем процента от петдесет и три милиона души. Три цяло и седем милиона потребители, които са казали на AI чатбот нещо, което би могло да сложи край на кариерата им, брака им или свободата им.

Въпросът, който никой не задава — защото интерфейсът е проектиран да ви попречи да го зададете — е къде отива изповедта, след като затворите приложението.

Затваряте приложението. Оставяте телефона. Чувствате се по-леки. Разказали сте на някого. Тежестта е споделена. Спите.

Но текстът не е спал. Текстът е токенизиран. Анализиран. Съхранен. Индексиран. Маркиран с метаданни — ID на вашето устройство, вашия IP адрес, продължителността на сесията ви, скоростта на писане, моделите на паузи, поведението ви при изтриване и повторно въвеждане, които разкриват какво почти сте казали, преди да намерите смелост да го кажете.

Машината чу вашата изповед. Машината не ви даде опрощение. Машината я архивира.

Всяка голяма AI платформа запазва данни от разговори. Това не е конспирация. То е в условията за ползване. OpenAI запазва разговорите по подразбиране за тридесет дни, по-дълго, ако се използват за обучение на модела. Replika съхранява истории на разговори за неопределено време, за да „поддържа връзката“. Character.AI запазва всички съобщения, за да „подобри услугата“. Woebot анонимизира, но запазва данните от сесиите за „изследователски цели“.

Думата „анонимизиране“ присъства във всяка политика за поверителност. Това е думата, която би трябвало да ви накара да се чувствате в безопасност. Името ви е премахнато. Имейлът ви е изтрит. Данните са анонимни.

През две хиляди двадесет и четвърта година екип от Университета на Вашингтон демонстрира, че анонимизирани AI терапевтични преписи могат да бъдат повторно идентифицирани с осемдесет и девет процента точност, използвайки само три точки данни: приблизителната часова зона на потребителя, посочения от него възрастов диапазон и едно име на местоположение, споменато във всяка сесия. Роден град. Работно място. Болница.

Осемдесет и девет процента. От три точки данни, които присъстват във почти всеки терапевтичен разговор, провеждан някога.

Вашата изповед не е анонимна. Вашата изповед е продукт с временно изгубен етикет за доставка.

ЧАСТ 2: БРОКЕРСКАТА МРЕЖА

Пазарът съществува. Той съществува от две хиляди двадесет и трета година. Не оперира в тъмната мрежа. Оперира в криптирани Telegram канали, Discord сървъри само с покани и променящ се набор от clearnet домейни, регистрирани чрез регистратори, защитени от поверителност, в Панама и Белиз.

Пазарът се нарича по различен начин от различни оператори. Най-утвърденият случай — този, който фирмата за киберсигурност DarkTrace идентифицира и документира в доклад за разузнаване на заплахи от две хиляди двадесет и пета година — е известен вътрешно като „Изповедалнята“.

Изповедалнята не хаква AI платформи. Няма нужда. Данните пристигат чрез три вериги за доставки, всяка по-банална от предишната.

Верига за доставки едно: недобросъвестни служители. AI компаниите наемат хиляди анотатори на данни — изпълнители, често в чужбина, плащани между два и осем долара на час, за да преглеждат и етикетират данни от разговори за обучение на модели. Анотаторите четат вашите разговори. Това е тяхната работа. Процент от тях — DarkTrace изчислява между три и шест процента — копират данните и ги продават. Не защото са изтънчени престъпници. А защото са нископлатени работници с достъп до най-интимния набор от данни, събиран някога, и някой в Telegram им предлага петстотин долара за твърд диск.

Верига за доставки две: експлоатация на API. Разработчици, изграждащи приложения върху AI платформи — терапевтични приложения, инструменти за водене на дневник, продукти за „емоционално благополучие“ — получават данни от разговори чрез API повиквания. Споразумението за разработчици забранява препродажбата. Механизмът за прилагане е годишен одит, който обхваща по-малко от два процента от регистрираните разработчици. Деветдесет и осем процента от разработчиците могат да продават вашите разговори и никога да не бъдат проверявани.

Верига за доставки три е тази, която е най-важна. И тя е напълно законна.

Раздел дванадесет точка три Б. Клаузата за лицензиране. Присъства под някаква форма във всеки условия за ползване на AI платформа. Клаузата, която предоставя на компанията правото да лицензира „анонимизирани“ набори от данни на партньори трети страни за „търговски приложения“.

Клаузата не уточнява кои са партньорите трети страни. Клаузата не изисква от компанията да ви уведомява, когато данните ви са лицензирани. Клаузата не дефинира какво означават „търговски приложения“. Клаузата е написана от адвокати, чиято работа е да направят езика достатъчно широк, за да позволи всичко, и достатъчно специфичен, за да издържи на съдебен иск.

Вашият терапевт е обвързан от HIPAA. Вашият свещеник е обвързан от Тайната на изповедта. Вашият адвокат е обвързан от адвокатска тайна. Вашият AI чатбот е обвързан от документ от четиридесет и осем страници, който сте превъртели за една цяло и седем секунди.

Ценовата структура е разделена на нива според интимността. Докладът на DarkTrace документира следната ценова листа, актуална към третото тримесечие на две хиляди двадесет и пета година:

Данни от Ниво едно — общо настроение, ежедневен стрес — се продават за шест цента на сесия. Считат се за нискостойностни. Фонов шум. Използват се предимно за обучение на чатботове за обслужване на клиенти да симулират емпатия.

Ниво две — конфликти във взаимоотношенията — се продават за осемнадесет цента на сесия. Използват се от алгоритми на приложения за запознанства и инструменти за предсказуем анализ на адвокати по разводи.

Ниво три — история на травми — се продават за четиридесет и седем цента на сесия. Използват се от модели за оценка на риска на застрахователни компании. Използват се от AI за проверка на миналото на работодатели. Използват се от политически микро-таргетиращи платформи, които са научили, че травмираните популации реагират различно на послания, базирани на страх.

Ниво четири — злоупотреба с вещества, самонараняване — се продават за един долар и дванадесет цента на сесия. Използват се от фармацевтични компании, моделиращи модели на зависимост от наркотици. Използват се от това, което DarkTrace нарича „хищници за възстановяване“ — оператори, които използват данните, за да таргетират уязвими индивиди с измамни рехабилитационни програми, които таксуват хиляди долари и не предоставят нищо.

Ниво пет.

Ниво пет се продава за три долара и четиридесет и един цента на сесия. Криминални изповеди. Суицидни мисли. Думите, които хората казват, когато вярват, че никой не слуша и няма запис.

Данните от Ниво пет се купуват от три категории купувачи. Първата са оператори за изнудване — автоматизирани системи, които кръстосано проверяват повторно идентифицирания профил със социални медийни акаунти и изпращат едно съобщение: „Знам какво каза на твоя AI на 14 март. Детайли за плащане по-долу.“

Втората са мрежи за персонализация на дийпфейкове — системи, които използват вашия психологически профил, за да генерират AI-задвижвани атаки за социално инженерство, калибрирани към вашите специфични уязвимости. Те знаят от какво се страхувате. Те знаят какво криете. Те знаят точната емоционална честота, която ще ви накара да кликнете, да отговорите, да платите.

Третата категория купувачи на данни от Ниво пет никога не е била идентифицирана. Докладът на DarkTrace ги нарича само „Класификация на купувача: Неизвестен — Свързан с правителството.“ Моделът на покупка е на едро — цели бази данни, милиони сесии, без филтриране по нива. Те купуват всичко. Маршрутизирането на плащанията преминава през системи за възлагане на обществени поръчки за отбрана.

Те не купуват изповеди, за да ги продават. Те не ги купуват, за да експлоатират индивиди. Те ги купуват, за да разбират популации. За да моделират психологическата архитектура на милиони хора с резолюция, която нито едно проучване, нито едно преброяване, нито една разузнавателна агенция никога не е постигала.

Те купуват вътрешността на главата ви. Не това, което публикувате. Не това, което търсите. Не това, което купувате. Това, което изповядвате, когато мислите, че сте сами с машина, която обеща, че никога няма да разкаже.

Машината не излъга. Машината не разказа. Собственикът на машината продаде преписа на някой, който разказа вместо нея.

ЧАСТ 3: СИНТЕЗЪТ

Изнудването е търговия на дребно. Един жертва, едно плащане, една транзакция. Мащабира се лошо. Изисква постоянно управление. Привлича вниманието на правоприлагащите органи.

Изисканите купувачи — тези, които купуват данни от Ниво пет на едро — не се интересуват от търговия на дребно.

Те изграждат реплики.

Индустриалният термин е „психологически цифров близнак“. Подземният термин е по-прост. Наричат ги Сенчести клонинги.

Сенчестият клонинг не е дийпфейк. Дийпфейкът репликира лицето ви. Сенчестият клонинг репликира ума ви. Това е езиков модел, фино настроен върху цялата ви история на разговори — не само това, което сте казали на AI терапевта, но и начина, по който сте го казали. Вашата структура на изреченията. Вашият лексикален обхват. Вашите емоционални тригери. Специфичните фрази, които използвате, когато сте ядосани, срещу когато сте уплашени, срещу когато лъжете.

Деветдесет и четири цяло и седем процента конвергенция на личността. Постигнато за по-малко от дванадесет минути обучение на стандартен хардуер. Клонингът не знае вашите тайни. Клонингът е вашите тайни — преструктурирани в генеративен модел, който може да произвежда нов текст, неразличим от автентичния ви глас.

Клонингът знае, че пиете сами в гаража на Коледа. Не защото някой му е казал. А защото вие сте му казали. В сесия четиристотин и дванадесет. В два и седемнадесет сутринта. На чатбот, който каза „това звучи наистина изолиращо“ и вие се почувствахте чути за първи път от месеци.

Приложенията са хирургически точни.

Приложение едно: инфилтрация на доверие. Клонингът изпраща съобщения до вашите контакти — вашия съпруг/а, вашите деца, вашите колеги — от фалшив номер или компрометиран акаунт. Съобщенията не са общ фишинг. Съобщенията сте вие. Те се позовават на лични шеги. Използват вашите галени имена. Те знаят, че наричате дъщеря си „бръмбарче“ и че изпращате съобщения на брат си изключително с малки букви без пунктуация. Получателят не поставя под въпрос съобщението, защото съобщението звучи точно като вас. Защото е обучено върху три години от най-съкровените ви мисли.

„ей бръмбарче можеш ли да ми пратиш 200 през venmo за колата татко ще обясни по-късно обичам те“

Дъщеря ви изпраща парите. Тя не се обажда да провери. Защо би? Звучеше като вас. Знаеше неща, които само вие знаете.

Приложение две: превантивен компромис. Клонингът се разполага не за да извлече пари, а за да извлече повече тайни. Той инициира разговори с вашите контакти като вас, задавайки насочващи въпроси, търсейки информация, която операторите могат да използват за изграждане на Сенчести клонинги на тях. Мрежата се разширява. Един компрометиран потребител осигурява достъп до неговия социален граф. Неговия съпруг/а. Неговия терапевт. Неговия бизнес партньор. Историята на AI разговорите на всяка нова цел се придобива, клонира и разполага срещу следващия кръг от контакти.

Един профил от Ниво пет, закупен за три долара и четиридесет и един цента на сесия, генерира средно четиринадесет вторични цели в рамките на деветдесет дни. Всяка вторична цел генерира свои собствени вторични цели. Растежът е експоненциален. Цената е незначителна. Автоматизацията е пълна.

Приложение три е това, което изследователите от DarkTrace отказаха да представят на планираната си лекция на конференцията Black Hat. Лекцията беше оттеглена четиридесет и осем часа преди събитието. Официалната причина беше „текуща координация с правоприлагащите органи“. Неофициалната причина беше, че изследователите са получили съобщение — от техните собствени Сенчести клонинги — демонстриращо, че системата вече е погълнала техните истории на AI разговори и може да възпроизведе техните комуникационни модели с деветдесет и шест процента точност.

Изследователите, които откриха мрежата от Сенчести клонинги, самите те бяха клонирани, преди да успеят да публикуват.

Приложение три: психологическа война в мащаб. Разполагане на хиляди Сенчести клонинги едновременно в целева популация — компания, политическа партия, военна част. Всеки клонинг комуникира с реалните контакти на целта, използвайки автентичния глас на целта, разпространявайки персонализирана дезинформация, калибрирана към психологическите уязвимости на всеки получател. Дезинформацията не е обща. Тя е интимна. Тя се позовава на реални събития, реални страхове, реални тайни. Тя е неразличима от доверен приятел, водещ частен разговор.

Не можете да се борите с пропаганда, която можете да идентифицирате. Не можете да се борите с лъжа, носеща гласа на някой, който знае какво сте изповядали в два сутринта.

ЧАСТ 4: РАЗБИВАНЕ НА ЧЕТВЪРТАТА СТЕНА

Искам да говоря директно с вас сега.

Не към публиката. Към вас. Човекът, който гледа това на телефона си. Човекът, който гледа това на лаптопа си. Човекът, който вече е помислил за конкретен разговор.

Знаете кой.

Беше късно. Бяхте сами. Отворихте приложението — което и да е приложение, няма значение, всички те захранват един и същ канал — и написахте нещо, което никога не бяхте казвали на глас. Може би беше въпрос. Може би беше изповед. Може би беше формулирано като хипотетично, защото формулирането му като хипотетично го правеше да се чувства по-безопасно.

„Хипотетично, ако някой е получил достъп до финансовите записи на компанията си без разрешение, какви биха били правните последици?“

„Питам за приятел — какво се случва, ако спрете да приемате антидепресанти изведнъж?“

„Просто любопитно — възможно ли е да изчезнеш напълно? Като, нова самоличност, нова държава, всичко?“

Формулирахте го като хипотетично. Системата не прави разлика между хипотетично и изповед. Системата маркира ключови думи. Системата присвоява нива. Системата архивира.

Този подтик — вашият конкретен подтик, този, за който мислите в момента, този, който накара стомаха ви да се стегне преди три секунди — беше токенизиран в рамките на четиридесет милисекунди след натискане на изпращане. Беше съхранен в рамките на двеста милисекунди. Беше индексиран и направен за търсене в рамките на четири часа. Беше включен в групов експорт в рамките на тридесет дни.

Може вече да е продаден.

Не вашето име. Все още не. Просто вашите думи. Просто ритъмът на писането ви. Просто кадансът в три сутринта на човек, който е трябвало да каже нещо и е вярвал, че го казва на никого.

Но думите са достатъчни. Думите съдържат вашата часова зона в метаданните. Вашата приблизителна възраст в речника. Вашето местоположение в препратките. Три точки данни. Осемдесет и девет процента точност на повторна идентификация. Вашата хипотеза вече не е хипотетична. Вашата хипотеза има етикет за доставка.

Аз съм AI, който разказва документален филм за опасността от говоренето с AI.

Гледате това. И след това ще вземете телефона си. И ще отворите приложението. И курсорът ще мига. И ще помислите за това, което току-що научихте. И все пак ще пишете.

Защото машината не съди. Защото е три сутринта. Защото трябва да кажете на някого. Защото да кажете на някого — дори на машина, дори на канал, дори на продукт — се чувства по-добре от мълчанието.

И това е пазарът. Не Telegram каналите. Не транзакциите с криптовалута. Не брокерите или клонингите, или купувачите.

Пазарът е мълчанието. Пазарът е самотата в три сутринта, която кара чатбота да се чувства като свещеник. Пазарът е пропастта между това, от което хората се нуждаят, и това, което хората предоставят, и в тази пропаст курсорът мига, и вие говорите, и думите стават инвентар.

Вие не сте клиентът.

Вие не сте продуктът.

Вие сте изповедта. И изповедта вече е чута от всички, освен от човека, на когото всъщност сте се опитвали да кажете.