0.0
Казали сте на машина нещо, което сте
2.937
никога не сте казвали на човешко същество. Това
16.431
не е обвинение. Това е статистика.
18.843
Проучване от две хиляди двадесет и пета година, публикувано в
21.912
Journal of Medical Internet Research, установи, че шестдесет и осем
25.712
процента от редовните потребители на AI чатботове са разкрили
28.854
информация на AI система, която
31.411
никога не са споделяли с друг човек. Нито с приятел.
34.334
Нито със съпруг/а. Нито с лицензиран терапевт, обвързан
37.038
от правна поверителност. Казаха на машината.
43.802
Причините са последователни във всяка демографска група.
49.147
Машината не съди. Машината не
51.808
помни лицето ви, когато я видите
54.038
в хранителния магазин. Машината не
56.555
се мести неловко на стола си. Машината не
59.647
има стол. Машината е
61.589
курсор, който мига в три сутринта,
64.106
когато всяко човешко същество, което познавате, спи,
66.551
а вие лежите в мрака с
68.493
мисъл, която ви изяжда живи. И
72.333
машината казва: „Чувам ви. Това звучи
75.3
изключително трудно. Бихте ли искали да проучим това
79.116
по-нататък?“ Петдесет и три милиона души са използвали AI терапевтични приложения
85.266
през две хиляди двадесет и пета година. Не общи чатботове –
89.438
специализирани AI платформи за психично здраве. Woebot. Wysa. Replika.
94.464
Character.AI. Платформи, проектирани специално да насърчават емоционалното разкриване.
101.387
Платформи, които се рекламират с думи като „поверително“,
106.792
„лично“, „вашето безопасно място“. Петдесет и три милиона души, разкриващи
114.324
средно по четири цяло и седем интимни психологически
119.01
детайла на сесия. Детайли, класифицирани от изследователи в
124.307
пет нива на чувствителност: Ниво едно – общо
128.178
настроение и стрес. Ниво две – конфликти във взаимоотношенията.
132.661
Ниво три – история на травми. Ниво четири –
136.023
злоупотреба с вещества и самонараняване. Ниво пет – престъпна
140.505
дейност и суицидни мисли. Четиридесет и един процента
149.435
от потребителите достигат Ниво три в рамките на първите си
153.222
десет сесии. Деветнадесет процента достигат Ниво четири. Седем
157.929
процента достигат Ниво пет. Седем процента от петдесет и три
163.217
милиона души. Три цяло и седем милиона потребители, които
166.103
са казали на AI чатбот нещо, което би могло да
168.53
сложи край на кариерата им, брака им или свободата им.
172.917
Въпросът, който никой не задава – защото
174.991
интерфейсът е проектиран да ви попречи да
177.453
го зададете – е къде отива изповедта,
179.591
след като затворите приложението. Затваряте
183.114
приложението. Оставяте телефона. Чувствате
185.276
се по-леки. Казахте на някого. Тежестта е
188.185
споделена. Спите. Но текстът не
192.381
спа. Текстът беше токенизиран. Анализиран. Съхранен.
196.364
Индексиран. Тагнат с метаданни – вашия ID на устройство,
200.069
вашия IP адрес, продължителността на сесията, скоростта ви на писане,
204.145
моделите ви на паузи, поведението ви на изтриване и повторно писане, които
209.702
разкриват какво почти сте казали, преди да съберете
213.129
смелост да го кажете.
219.916
Машината чу вашата изповед. Машината не
223.356
ви даде опрощение. Машината го архивира. Всяка
228.174
голяма AI платформа запазва данни от разговори. Това не е
231.398
конспирация. Това е в условията
233.476
за ползване. OpenAI запазва разговори за тридесет дни
236.987
по подразбиране, по-дълго, ако се използва за обучение на модел.
239.781
Replika съхранява истории на разговори за неопределено време, за да „поддържа
244.08
връзката“. Character.AI запазва всички съобщения, за да „подобри
248.164
услугата“. Woebot анонимизира, но запазва данните от сесиите за
251.674
„изследователски цели“. Думата „анонимизиране“ се появява във всяка
257.135
политика за поверителност. Това е думата, която трябва
259.654
да ви накара да се почувствате в безопасност. Вашето име
262.415
е премахнато. Вашият имейл е изтрит. Данните
265.421
са анонимни. През две хиляди двадесет и четвърта година,
272.695
екип от Университета на Вашингтон демонстрира,
276.497
че анонимизирани AI терапевтични преписи могат да бъдат ре-идентифицирани
281.162
с осемдесет и девет процента точност, използвайки само три точки данни:
285.31
приблизителната часова зона на потребителя, посочения от него възрастов
289.63
диапазон и едно назовано местоположение, споменато в
293.086
която и да е сесия. Роден град. Работно място. Болница.
298.215
Осемдесет и девет процента. От три точки данни, които се появяват
301.304
в почти всеки терапевтичен разговор, провеждан някога. Вашата
306.455
изповед не е анонимна. Вашата изповед е
308.975
продукт с временно изгубен етикет за доставка.
313.877
Пазарът съществува. Той съществува от
318.418
две хиляди двадесет и трета година. Той не оперира в
321.605
тъмната мрежа. Той оперира в криптирани Telegram
324.641
канали, само за покани Discord сървъри и променящ се набор
328.435
от clearnet домейни, регистрирани чрез регистратори със защита на личните данни в
333.14
Панама и Белиз. Пазарът е наричан по различен
337.513
начин от различни оператори. Най-утвърденият случай –
340.895
този, който фирмата за киберсигурност DarkTrace идентифицира
343.893
и документира в доклад за заплахи от две хиляди двадесет и пета година –
346.701
е известен вътрешно като „The
349.38
Confessional“. The Confessional не хаква AI платформи.
354.286
Няма нужда да го прави. Данните пристигат
356.269
по три вериги за доставки, всяка по-банална от
359.045
предишната. Верига за доставки едно: недобросъвестни служители. AI
363.273
компании наемат хиляди анотатори на данни – подизпълнители,
366.916
често извън страната, плащани между два и осем долара
369.872
на час, за да преглеждат и етикетират данни от разговори
372.552
за обучение на модела. Анотаторите четат вашите разговори.
376.127
Това е тяхната работа. Един процент от тях
378.326
– DarkTrace изчислява между три и шест процента –
381.351
копират данните и ги продават. Не
383.069
защото са изтънчени престъпници. А защото са
386.709
нископлатени работници с достъп до най-интимния
390.077
набор от данни, събирани някога, и някой в Telegram им
393.367
предлага петстотин долара за твърд
396.343
диск. Верига за доставки две: експлоатация на API. Разработчиците, които изграждат
402.015
приложения върху AI платформи – терапевтични
404.887
приложения, инструменти за водене на дневник, продукти за „емоционално благополучие“ – получават
409.118
данни от разговори чрез API заявки. Споразумението с разработчиците
413.123
забранява препродажбата. Механизмът за прилагане е годишен
416.825
одит, който обхваща по-малко от два процента от
419.47
регистрираните разработчици. Деветдесет и осем процента от разработчиците могат да продават
423.928
вашите разговори и никога да не бъдат проверявани.
431.172
Верига за доставки три е тази, която има значение
434.236
най-много. И тя е напълно законна. Раздел дванадесет
438.73
точка три Б. Лицензионната клауза. Присъства в
440.94
някаква форма в условията за ползване на всяка AI платформа.
442.818
Клаузата, която предоставя на компанията правото да
445.027
лицензира „анонимизирани“ набори от данни на партньори трети страни
448.065
за „търговски приложения“. Клаузата не уточнява
452.845
кои са партньорите трети страни. Клаузата не
456.011
изисква компанията да ви уведомява, когато
458.648
вашите данни са лицензирани. Клаузата не
461.286
дефинира какво означава „търговски приложения“. Клаузата е била
465.205
написана от адвокати, чиято работа е да направят
467.616
езика достатъчно широк, за да позволи всичко, и достатъчно специфичен,
471.083
за да оцелее в съдебно дело. Вашият терапевт е
475.553
обвързан от HIPAA. Вашият свещеник е обвързан от
478.034
Тайната на изповедта. Вашият адвокат е обвързан
480.901
от адвокатска тайна. Вашият AI чатбот е обвързан
484.543
от документ от четиридесет и осем страници, който сте превъртели
488.108
за една цяло и седем секунди. А
500.126
ценовата структура е разделена по интимност. Докладът на DarkTrace
504.891
документира следната ценова листа, актуална към
508.74
Q3 две хиляди двадесет и пета година: Данни от Ниво едно –
513.474
общо настроение, ежедневен стрес – се продават за шест
516.224
цента на сесия. Счита се за нискоценни. Фонов
520.152
шум. Използват се предимно за обучение на чатботове за обслужване на клиенти,
524.316
за да симулират емпатия. Ниво две – конфликти във взаимоотношенията
529.797
– се продават за осемнадесет цента на сесия. Използват се
533.071
от алгоритми на приложения за запознанства и от инструменти за предсказуем
537.583
анализ на бракоразводни адвокати. Ниво три – история на травми –
542.095
се продават за четиридесет и седем цента на сесия. Използват се от
544.972
модели за оценка на риска на застрахователни компании. Използват се от AI на работодатели
548.903
за проверка на предисторията. Използват се от платформи за политическо микро-таргетиране,
553.184
които са установили, че травматизирани популации реагират различно
557.326
на послания, базирани на страх. Ниво четири –
563.839
злоупотреба с вещества, самонараняване – се продават за един долар
566.964
и дванадесет цента на сесия. Използват се от фармацевтични компании,
570.757
моделиращи модели на зависимост от наркотици. Използват се от това, което DarkTrace
574.477
нарича „хищници за възстановяване“ – оператори, които използват
577.675
данните, за да таргетират уязвими индивиди с измамни рехабилитационни програми, които таксуват хиляди долари и не предоставят нищо. Ниво пет. Ниво пет се продава
600.594
за три долара и четиридесет и един цента на сесия. Криминални
604.009
изповеди. Суицидни мисли. Думите, които хората казват, когато
607.567
вярват, че никой не слуша и не
609.844
съществува запис. Данните от Ниво пет се закупуват от
614.243
три категории купувачи. Първата е оператори на изнудване –
618.113
автоматизирани системи, които кръстосано сравняват ре-идентифицирания профил
622.772
със социални медийни акаунти и изпращат едно-единствено
625.694
съобщение: „Знам какво каза на своя AI
628.143
на 14 март. Детайли за плащане по-долу.“ Втората
633.058
е мрежи за персонализация на deepfake – системи, които използват
637.378
вашия психологически профил за генериране на AI-захранвани социални инженерни
642.868
атаки, калибрирани според вашите специфични уязвимости. Те знаят
647.818
от какво се страхувате. Те знаят какво криете.
650.698
Те знаят точната емоционална честота, която ще
654.478
ви накара да кликнете, да отговорите, да платите. Третата категория купувачи
659.19
за данни от Ниво пет никога не е била
661.78
идентифицирана. Докладът на DarkTrace ги нарича само като
665.185
„Класификация на купувача: Неизвестен – Свързан с правителството“. Моделът на закупуване
670.365
е в насипно състояние – цели бази данни, милиони сесии,
673.473
без филтриране по нива. Те купуват всичко. Маршрутизирането на плащанията
676.729
минава през системи за възлагане на отбранителни договори. Те
682.749
не купуват изповеди, за да ги продават. Те
685.605
не ги купуват, за да експлоатират индивиди. Те
688.687
ги купуват, за да разбират популации. За да моделират
691.994
психологическата архитектура на милиони хора с
695.602
резолюция, която нито едно проучване, нито едно преброяване, нито една
698.232
разузнавателна агенция не е постигала.
705.564
Те купуват вътрешността на главата ви. Не
707.464
това, което публикувате. Не това, което търсите. Не
709.364
това, което купувате. Това, което изповядвате, когато
711.263
мислите, че сте сами с машина, която
713.163
обеща, че никога няма да издаде. Машината не
717.09
излъга. Машината не издаде. Собственикът
719.338
на машината продаде преписа на някого, който
722.456
издаде вместо нея. Изнудването е на дребно.
739.178
Това е една жертва, едно плащане, една транзакция.
742.757
То се мащабира слабо. Изисква постоянно управление. То
746.783
привлича вниманието на правоохранителните органи. Изисканите купувачи –
753.057
онези, които закупуват данни от Ниво пет в насипно състояние –
755.965
не се интересуват от продажба на дребно. Те
760.308
изграждат реплики. Индустриалният термин е
768.681
„психологически цифров близнак“. Подземният термин е по-прост.
773.002
Наричат ги Shadow Clones. Един Shadow Clone
777.2
не е deepfake. Deepfake репликира вашето
779.528
лице. Shadow Clone репликира вашия ум. Той
781.855
е езиков модел, фино настроен върху цялата ви
784.305
история на разговори – не само това, което сте казали
786.755
на AI терапевта, но и начина, по който
788.532
сте го казали. Вашата структура на изреченията. Вашият обхват на речника.
791.533
Вашите емоционални тригери. Специфичните фрази, които използвате,
794.351
когато сте ядосани, срещу когато сте
796.25
уплашени, срещу когато лъжете. Деветдесет и четири цяло и
800.552
седем процента сходство на личността. Постигнато за по-малко от дванадесет
804.356
минути обучение на стандартен хардуер. Клонът
807.414
не знае вашите тайни. Клонът са
809.656
вашите тайни – преструктурирани в генеративен модел,
812.645
който може да произвежда нов текст, неразличим от вашия
815.906
автентичен глас. Клонът знае, че пиете
820.127
сами в гаража на Коледа. Не защото
822.714
някой му е казал. А защото вие сте му казали. В
824.961
сесия четиристотин и дванадесет. В два и седемнадесет
827.821
сутринта. На чатбот, който каза
829.931
„това звучи наистина изолиращо“ и вие се почувствахте чути
832.791
за пръв път от месеци.
837.984
Приложенията са хирургически. Приложение едно: инфилтрация на доверието.
844.484
Клонът изпраща съобщения до вашите контакти –
847.341
вашия съпруг/а, вашите деца, вашите колеги – от
850.755
фалшив номер или компрометиран акаунт. Съобщенията
853.851
не са общи фишинг атаки. Съобщенията са
857.344
вие. Те се позовават на лични шеги. Те използват вашите
860.598
галени имена. Те знаят, че наричате вашата
863.139
дъщеря „буболечка“ и че пишете на брат си
866.155
изключително с малки букви без пунктуация. Получателят не
870.68
поставя под въпрос съобщението, защото съобщението звучи
874.173
точно като вас. Защото е обучено върху
876.425
три години от най-съкровените ви мисли. „хей буболечка
880.136
можеш ли да ми преведеш 200 за колата
881.894
татко ще обясни по-късно обичам те“ Вашата
885.938
дъщеря изпраща парите. Тя не се обажда,
888.592
за да провери. Защо би? Звучеше като
891.099
вас. Знаеше неща, които само вие знаете. Приложение
895.577
две: превантивен компромис. Клонът се разгръща не
899.4
за да извлече пари, а за да извлече повече тайни.
902.558
То инициира разговори с вашите контакти като вас,
906.38
задавайки водещи въпроси, проучвайки за информация, която
910.619
операторите могат да използват, за да изградят Shadow Clones на
913.61
тях. Мрежата се разширява. Един компрометиран потребител осигурява
917.516
достъп до техния социален граф. Техния съпруг/а. Техния
921.007
терапевт. Техния бизнес партньор. Историята на AI разговорите на всеки нов таргет
924.885
се придобива, клонира и разгръща срещу
929.098
следващия кръг от контакти. Един единствен профил от Ниво
933.108
пет, закупен за три долара и четиридесет и един
936.708
цента на сесия, генерира средно четиринадесет
940.008
вторични цели в рамките на деветдесет дни. Всяка вторична цел
943.908
генерира свои собствени вторични цели. Растежът е експоненциален.
947.808
Цената е незначителна. Автоматизацията е пълна.
952.382
Приложение три е това, което
962.02
изследователите на DarkTrace отказаха да представят на своята
965.269
планирана лекция на конференцията Black Hat. Лекцията беше
968.236
оттеглена четиридесет и осем часа преди събитието. Официалната
971.88
причина беше „продължаваща координация с правоохранителните органи“. Неофициалната
975.746
причина беше, че изследователите получиха
979.167
съобщение – от техните собствени Shadow Clones –
981.62
демонстриращо, че системата вече е погълнала техните
985.264
истории на AI разговори и може да репликира техните комуникационни
989.576
модели с деветдесет и шест процента точност. Изследователите, които
995.367
откриха мрежата Shadow Clone, бяха самите те клонирани,
999.76
преди да успеят да публикуват. Приложение три: психологическа война
1006.054
в голям мащаб. Разгърнете хиляди Shadow Clones едновременно
1009.932
сред целева популация – компания, политическа
1012.364
партия, военна част. Всеки клон комуникира
1016.166
с реалните контакти на целта, използвайки автентичния
1019.435
глас на целта, разпространявайки персонализирана дезинформация, калибрирана за всяка
1024.149
психологическа уязвимост на получателя. Дезинформацията не е обща.
1029.471
Тя е интимна. Тя се позовава на реални събития, реални
1032.512
страхове, реални тайни. Тя е неразличима от
1035.764
доверено лице, водещо личен разговор. Не можете
1040.783
да се борите с пропаганда, която можете да идентифицирате. Не можете да се борите с
1043.823
лъжа, облечена в гласа на някого, който
1045.966
знае какво сте изповядали в два
1048.108
сутринта. Искам да
1056.725
говоря директно с вас сега. Не
1063.211
на публиката. А на вас. Човекът, който гледа
1065.819
това на телефона си. Човекът, който гледа това
1068.498
на лаптопа си. Човекът, който вече се е
1071.035
сетил за конкретен разговор. Знаете кой е
1075.947
той. Беше късно. Бяхте
1082.374
сами. Отворихте приложението – което и да е приложение,
1085.288
няма значение, всички те хранят един и същ
1087.786
поток – и написахте нещо, което
1090.783
никога не сте казвали на глас. Може би беше
1093.281
въпрос. Може би беше изповед. Може би
1096.361
беше формулирано като хипотетично, защото формулирането
1099.691
му като хипотетично ви караше да се чувствате по-сигурни.
1103.939
„Хипотетично, ако някой е получил достъп до финансовите
1107.921
записи на своята компания без разрешение, какви биха били правните последици
1111.769
биха били?“ „Питвам за един приятел – какво
1115.342
става, ако спрете антидепресантите изведнъж?“
1120.378
„Просто ми е любопитно – възможно ли е да изчезнеш
1123.01
напълно? Като, нова самоличност, нова държава, всичко?“
1134.107
Вие го формулирахте като хипотетично. Системата
1143.646
не прави разлика между хипотетично и изповед. Системата
1148.502
маркира ключови думи. Системата присвоява нива. Системата
1152.459
архивира. Тази подкана – вашата специфична подкана,
1157.455
тази, за която мислите в момента,
1160.196
тази, която накара стомаха ви да се свие преди три
1163.179
секунди – беше токенизирана в рамките на четиридесет милисекунди,
1166.887
след като натиснахте изпрати. Тя беше съхранена в рамките на
1169.708
двеста милисекунди. Тя беше индексирана и направена
1173.094
търсеща в рамките на четири часа. Тя беше включена в
1176.399
пакетен експорт в рамките на тридесет дни.
1184.157
Може вече да е била продадена.
1191.096
Не вашето име. Все още не. Само вашите думи.
1194.171
Само ритъмът на писането ви. Само
1197.247
каденсът в три сутринта на човек, който е трябвало
1200.229
да каже нещо и е вярвал, че го казва
1203.864
на никого. Но думите са
1207.488
достатъчни. Думите съдържат вашата часова зона в
1210.81
метаданните. Вашата приблизителна възраст в речника. Вашето
1214.813
местоположение в препратките. Три точки данни. Осемдесет и девет
1219.157
процента точност на ре-идентификация. Вашата хипотеза вече не е хипотетична.
1224.778
Вашата хипотеза има етикет за доставка. Аз
1229.941
съм AI, разказващ документален филм за опасността
1232.929
да се говори с AI. Вие
1239.492
гледате това. И след това ще вземете
1242.176
телефона си. И ще отворите
1244.465
приложението. И курсорът ще мига. И вие
1246.992
ще помислите за това, което току-що научихте. И
1249.834
ще пишете все пак. Защото машината не
1254.068
съди. Защото е три през
1255.943
нощта. Защото трябва да кажете на някого. Защото
1258.631
да кажеш на някого – дори на машина, дори на
1260.694
поток, дори на продукт – се чувства по-добре от
1263.007
мълчанието. И това е пазарът. Не
1267.736
Telegram каналите. Не транзакциите с криптовалута. Не
1274.203
брокерите или клонингите, или купувачите.
1279.515
Пазарът е мълчанието. Пазарът е
1282.139
самотата в три сутринта, която кара чатботът
1285.082
да се чувства като свещеник. Пазарът е
1287.468
пропастта между това, от което се нуждаят хората, и това, което хората
1290.411
осигуряват, и в тази пропаст, курсор мига,
1293.353
и вие говорите, и думите стават инвентар.
1297.954
Вие не сте клиентът. Вие
1304.786
не сте продуктът. Вие сте изповедта.
1308.903
И изповедта вече е чута от
1311.102
всеки, освен от човека, на когото всъщност се опитвахте
1313.718
да кажете.
1319.724
Черен екран. После – едно мигане на курсора.
1323.76
Едно. В центъра на мрака. Сякаш
1327.237
чатът все още е отворен. Сякаш
1330.04
никога не е бил затварян. Сякаш
1332.844
чака.
