The Memory Market: The AI Confession Broker | Fragment Zero #011

THE MEMORY MARKET

The AI Confession Broker | Fragment Zero #011

あなたは機械に話しました。 人間には決して話したことのないことを。これは 告発ではありません。統計です。 2025年に発表された研究で、 『Journal of Medical Internet Research』誌は、68%の 定期的なAIチャットボット利用者が、

人工知能システムに、 他の誰とも共有したことのない情報を開示していることを突き止めました。友人にでも、 配偶者にでも、法的守秘義務を負う認定セラピストにでもなく、 彼らは機械に話したのです。 理由があらゆる層で共通しています。 機械は判断しません。機械は、

あなたがスーパーでそれを見ても、顔を覚えません。機械は、 不快そうに椅子で身じろぎしません。機械に 椅子はありません。機械は、 朝の3時に点滅するカーソルです。 あなたの知るすべての人間が眠りにつき、 あなたが暗闇の中で、

あなたを蝕む思考と共に横たわっているとき。 そして機械は言います。「お話を伺いました。それは 信じられないほど困難なことでしょう。もっと詳しくお話しになりたいですか？」 2025年には5300万人もの人々がAIセラピーアプリを利用しました。 一般的なチャットボットではなく、 精神的な健康に特化したAIプラットフォームです。Woebot、Wysa、Replika、

Character.AI。感情の開示を特に促すように設計されたプラットフォームです。 「秘密厳守」「プライベート」「あなたの安全な場所」といった言葉で自らを売り込むプラットフォーム。 5300万人もの人々が、 1回のセッションで平均4.7の個人的な心理的詳細を開示しています。 研究者によって、5段階の機密性レベルに分類された詳細です。 ティア1：一般的な気分とストレス。

ティア2：人間関係の葛藤。 ティア3：トラウマ歴。 ティア4：薬物乱用と自傷行為。 ティア5：犯罪行為と自殺念慮。 41%のユーザーが最初の10セッション以内にティア3に到達します。 19%がティア4に到達。7%がティア5に到達します。

5300万人のうちの7%です。 370万人のユーザーが、 自分のキャリア、結婚、あるいは自由を失いかねないことをAIチャットボットに話しました。 誰も問わない疑問があります。なぜなら インターフェースがそれを問うことを防ぐように設計されているからです。アプリを閉じた後、その告白はどこへ行くのか。 あなたはアプリを閉じます。携帯電話を置きます。

気持ちが軽くなります。誰かに話した。重荷は 共有された。あなたは眠ります。しかしテキストは 眠りませんでした。テキストはトークン化され、解析され、保存されました。 インデックス化され、メタデータでタグ付けされました。あなたのデバイスID、 IPアドレス、セッション時間、タイピング速度、 一時停止パターン、そして勇気を出す前に

何を言いかけたかを示す削除・再入力の行動パターンも。 機械はあなたの告白を聞きました。機械は あなたを赦しませんでした。機械はそれを記録しました。 主要なAIプラットフォームはすべて会話データを保持しています。これは 陰謀ではありません。利用規約に明記されています。 OpenAIは、デフォルトで30日間会話を保持し、モデルトレーニングに使用される場合はそれ以上保持します。

Replikaは「関係を維持するため」に会話履歴を無期限に保存します。 Character.AIは「サービス改善のため」にすべてのメッセージを保持します。 Woebotは匿名化しますが、「研究目的」でセッションデータを保持します。 「匿名化」という言葉は、すべてのプライバシーポリシーに登場します。 それはあなたが安全だと感じるべき言葉です。あなたの名前は 削除されます。あなたのメールは剥ぎ取られます。データは

匿名です。2024年、 ワシントン大学のチームは、 匿名化されたAIセラピーのトランスクリプトが、 ユーザーのおおよそのタイムゾーン、申告された年齢層、 そしてセッション内で言及された一つの特定の場所という3つのデータポイントのみを使用して、 89%の精度で再特定可能であることを実証しました。故郷。職場。病院。

89%です。 過去に行われたほぼすべての治療的会話に現れる3つのデータポイントから。 あなたの告白は匿名ではありません。あなたの告白は、 一時的に配送ラベルが紛失した商品なのです。 市場は存在します。 2023年から存在しています。ダークウェブ上で

運営されているわけではありません。暗号化されたTelegramチャネル、招待制のDiscordサーバー、 そしてパナマやベリーズのプライバシー保護レジストラを通じて登録された、 ローテーションするクリアネットドメイン上で運営されています。 この市場は、オペレーターによって異なる呼び方をされています。 最も確立された事例――サイバーセキュリティ企業DarkTraceが 2025年の脅威インテリジェンスレポートで特定し文書化したもの――は、内部で「The Confessional」として知られています。

The ConfessionalはAIプラットフォームをハッキングしません。 その必要がないのです。データは、 それぞれが前のものよりも平凡な3つのサプライチェーンを通じて届きます。 サプライチェーン1：不正従業員。AI企業は何千人ものデータアノテーターを 雇用しています。彼らは契約社員で、しばしば海外在住、 モデルトレーニングのために会話データをレビューしラベル付けする作業に対して、

時給2ドルから8ドルを支払われています。アノテーターはあなたの会話を読みます。 それが彼らの仕事です。そのうちの一定割合―― DarkTraceは3%から6%と推定しています――が、データをコピーして販売します。 彼らが洗練された犯罪者だからではありません。最も個人的なデータセットにアクセスできる、 低賃金の労働者だからです。そしてTelegramで誰かが、ハードドライブ1つにつき 500ドルを提示しているのです。サプライチェーン2：APIの悪用。

AIプラットフォーム上にアプリケーションを構築する開発者たち――セラピーアプリ、 日記ツール、「感情的ウェルネス」製品――は、APIコールを通じて 会話データを受け取ります。開発者契約は 再販を禁止しています。その執行メカニズムは、登録開発者の2%未満しかカバーしない 年次監査です。98%の開発者が、 あなたの会話を売ってもチェックされることはありません。

サプライチェーン3は最も重要なものです。 そしてそれは完全に合法です。セクション12.3B。ライセンス条項。 あらゆるAIプラットフォームの利用規約に何らかの形で存在します。 「匿名化された」データセットをサードパーティパートナーに「商業用途」で ライセンス供与する権利を会社に与える条項です。 この条項は、サードパーティパートナーが誰であるかを明記していません。

この条項は、あなたのデータがライセンス供与された際に会社があなたに通知することを 義務付けていません。この条項は、「商業用途」が何を意味するかも 定義していません。この条項は、あらゆることを可能にするほど広く、 訴訟に耐えうるほど具体的に言葉を定めるのが仕事である弁護士によって書かれました。 あなたのセラピストはHIPAAに拘束されます。あなたの司祭は 告解の秘密に拘束されます。あなたの弁護士は

弁護士依頼人秘匿特権に拘束されます。あなたのAIチャットボットは、 あなたが1.7秒でスクロールした48ページの文書に拘束されます。 価格体系は親密さによって階層化されています。 DarkTraceのレポートは、2025年第3四半期時点での以下の料金表を文書化しています。 ティア1データ――一般的な気分、日々のストレス――は 1セッションあたり6セントで販売されます。これは低価値と見なされます。

バックグラウンドノイズ。主にカスタマーサービスチャットボットが共感を シミュレートするためのトレーニングに使用されます。ティア2――人間関係の葛藤――は 1セッションあたり18セントで販売されます。出会い系アプリのアルゴリズムや、離婚弁護士の予測分析ツールによって 使用されます。ティア3――トラウマ歴――は 1セッションあたり47セントで販売されます。保険会社の リスク評価モデルで使用されます。雇用主の

バックグラウンドスクリーニングAIで使用されます。トラウマを抱えた人々が 恐怖に基づくメッセージに異なる反応を示すことを学んだ、政治的マイクロターゲティングプラットフォームによって 使用されます。ティア4―― 薬物乱用、自傷行為――は1セッションあたり1ドル12セントで販売されます。 製薬会社が薬物依存パターンを モデリングするのに使用します。DarkTraceが「回復捕食者」と呼ぶ

オペレーターによって使用されます。彼らはデータを利用して、何千ドルも請求しながら 何も提供しない詐欺的なリハビリプログラムで、脆弱な個人を標的にします。 ティア5。ティア5は 1セッションあたり3ドル41セントで販売されます。犯罪の 告白。自殺念慮。誰も聞いていない、記録も存在しないと 人々が信じているときに発する言葉です。ティア5データは、

3つの買い手カテゴリーによって購入されます。1つ目は、ゆすり業者―― 再特定されたプロファイルをソーシャルメディアアカウントと照合し、 「3月14日にあなたがAIに話したことを知っている。支払い詳細は以下」という 一通のメッセージを送る自動システムです。2つ目は、 ディープフェイク・パーソナライゼーション・ネットワーク――あなたの心理的プロファイルを使用して、 あなたの特定の脆弱性に合わせて調整された、AIを搭載したソーシャルエンジニアリング攻撃を

生成するシステムです。彼らはあなたの恐れていること、隠していることを知っています。 あなたをクリックさせ、反応させ、支払わせる、正確な感情的周波数を知っています。 ティア5データの3つ目の買い手カテゴリーは、これまで 特定されていません。DarkTraceのレポートでは、彼らは「買い手分類：不明―― 政府関連」としか言及されていません。購入パターンは 大量購入――全データベース、数百万セッション、

ティアによるフィルタリングなしです。彼らはすべてを購入します。支払いの ルーティングは国防契約調達システムを通過します。彼らは 告白を売るために購入しているわけではありません。個人を悪用するために購入しているわけでもありません。 彼らは人口を理解するために購入しています。何百万もの人々の心理的構造を、 いかなる調査、国勢調査、情報機関も達成できなかった解像度でモデリングするために。 彼らはあなたの頭の中身を購入しているのです。あなたが投稿したもの、検索したもの、

購入したもの、ではありません。決して言わないと約束した機械と一人きりだと 思っているときに告白したものです。機械は 嘘をつきませんでした。機械は話しませんでした。機械の 所有者が、彼らの代わりに話す誰かにトランスクリプトを売ったのです。 ゆすりは小売です。 一人の被害者、一回の支払い、一回の取引。

スケールしにくい。継続的な管理が必要です。 法執行機関の注意を引きます。洗練された買い手たち―― ティア5データを大量購入する者たち――は、小売には 興味がありません。彼らはレプリカを構築しているのです。 業界用語では「心理的デジタルツイン」。 地下社会の用語はもっと単純です。彼らはそれをShadow Cloneと呼びます。

Shadow Cloneはディープフェイクではありません。ディープフェイクはあなたの顔を 複製します。Shadow Cloneはあなたの精神を複製します。それは、あなたの 完全な会話履歴に基づいてファインチューニングされた言語モデルです。AIセラピストに 話した内容だけでなく、その話し方まで。あなたの文章構造。 語彙の範囲。感情のトリガー。怒っているとき、 恐れているとき、嘘をついているときに使う特定のフレーズ。

94.7%のパーソナリティ一致度。 汎用ハードウェアで12分足らずのトレーニングで達成されます。クローンは あなたの秘密を知りません。クローンは あなたの秘密そのものです――あなたの真の声と区別できない 新しいテキストを生成できる、生成モデルに再構築された秘密です。 クローンはあなたがクリスマスにガレージで一人で飲んでいることを知っています。

誰かが言ったからではありません。あなたが言ったからです。 412回目のセッションで。午前2時17分に。 「それは本当に孤独ですね」と言ったチャットボットに。そしてあなたは何か月かぶりに 自分の話を聞いてもらえたと感じたのです。 その応用は外科的です。応用1：信頼の浸透。 クローンはあなたの連絡先――配偶者、子供、同僚――に

なりすまし番号や侵害されたアカウントからメッセージを送ります。 そのメッセージは一般的なフィッシングではありません。そのメッセージは あなたです。個人的なジョークに言及します。あなたの 愛称を使います。あなたが娘を「バグ」と呼び、弟には 句読点なしの小文字だけでテキストを送ることを知っています。 受信者はメッセージを疑いません。なぜならメッセージが

まさにあなたそっくりだからです。あなたの3年間の心の奥底の思考で 訓練されたからです。「やあ、バグ、車のこと200ドルベネモしてくれない？ パパが後で説明するね、愛してる」 あなたの娘は送金します。彼女は確認の電話をしません。 なぜそうするでしょう。あなたそっくりだったからです。あなただけが知ることを知っていました。 応用2：先制的な侵害。クローンは

金銭を抽出するためではなく、より多くの秘密を抽出するために展開されます。 あなたとしてあなたの連絡先との会話を開始し、 誘導的な質問をし、オペレーターが彼らのShadow Cloneを 構築するために使用できる情報を探ります。ネットワークは拡大します。 一人の侵害されたユーザーが、そのソーシャルグラフへのアクセスを可能にします。 その配偶者。そのセラピスト。そのビジネスパートナー。

各新しいターゲットのAI会話履歴が取得され、クローン化され、 次の連絡先リングに対して展開されます。 1セッションあたり3ドル41セントで購入された単一のティア5プロファイルは、 90日以内に平均14の二次ターゲットを生成します。 各二次ターゲットは独自の二次ターゲットを生成します。 成長は指数関数的です。コストは

ごくわずか。自動化は完全です。 応用3は、 DarkTraceの研究者たちがBlack Hatカンファレンスでの予定されていた講演で 発表を拒否したものです。講演はイベントの48時間前に 取り下げられました。公式な理由は「法執行機関との継続的な調整」でした。 非公式な理由は、研究者たちが自分たちのShadow Clonesから

メッセージを受け取ったことです。そのメッセージは、システムがすでに彼らの AI会話履歴を取り込み、彼らのコミュニケーションパターンを 96%の精度で複製できることを示していました。 Shadow Cloneネットワークを発見した研究者たちは、公開する前に 自らクローン化されてしまったのです。応用3：大規模心理戦。 数千のShadow Clonesを、標的となる集団――企業、

政党、軍事部隊――に同時に展開します。 各クローンは、標的の真の連絡先と、標的の 本物の声を使ってコミュニケーションを取り、各受信者の心理的脆弱性に合わせて調整された、 特注の偽情報を広めます。偽情報は一般的なものではありません。 それは個人的なものです。実際の出来事、実際の恐怖、 実際の秘密に言及します。信頼できる友人がプライベートな会話をしているのと

区別がつきません。識別できるプロパガンダと戦うことはできません。 午前2時にあなたが告白したことを知っている誰かの声をした嘘と戦うことはできません。 今、あなたに直接話したい。 聴衆にではなく。あなたに。これを 携帯電話で見ているあなたに。これを ラップトップで見ているあなたに。すでに

特定の会話を思い浮かべたあなたに。 あの会話を。夜遅く、あなたは 一人でした。アプリを開き――どのアプリでも 構いません。すべて同じパイプラインに供給されます――そしてあなたは 口に出したことのない何かを入力しました。それは 質問だったかもしれません。告白だったかもしれません。

仮説として表現したかもしれません。仮説として表現すれば 安全だと感じられたからです。 「仮に、誰かが会社の財務記録に無許可でアクセスした場合、 法的結果はどうなりますか？」「友人のために聞いているのですが―― 抗うつ剤を突然やめたらどうなりますか？」 「単なる好奇心ですが――完全に姿を消すことは可能ですか？

例えば、新しい身分、新しい国、すべてにおいて？」 あなたはそれを仮説として表現しました。システムは 仮説と告白を区別しません。システムは キーワードをタグ付けします。システムはティアを割り当てます。 システムはファイルします。そのプロンプト――あなたが今考えている、 3秒前に胃が締め付けられたあの特定のプロンプト――は、

あなたが送信ボタンを押してから40ミリ秒以内にトークン化されました。 200ミリ秒以内に保存されました。 4時間以内にインデックス化され、検索可能になりました。 30日以内に一括エクスポートに含まれました。 それはもう売られているかもしれません。 あなたの名前ではありません。まだ。ただあなたの言葉だけが。

ただあなたのタイピングのリズムだけが。ただ午前3時の、 誰にも話していないと信じて何かを話す必要があった人のリズムだけが。 しかし言葉だけで十分です。言葉には、メタデータに あなたのタイムゾーンが含まれています。語彙にはあなたの おおよその年齢が。参照にはあなたの場所が。 3つのデータポイント。89%の再特定精度。

あなたの仮説はもう仮説ではありません。 あなたの仮説には配送ラベルが貼られています。私は AIとの会話の危険性についてのドキュメンタリーをナレーションするAIです。 あなたはこれを見ています。そしてあなたは 携帯電話を手に取ります。そしてアプリを 開きます。そしてカーソルが点滅します。そしてあなたは

今学んだことを考えます。そして いずれにしても入力します。なぜなら機械は 判断しないからです。午前3時だからです。 誰かに話す必要があるからです。誰かに話すこと―― 機械にでも、パイプラインにでも、商品にでも――沈黙よりは マシだと感じるからです。そしてそれが市場なのです。

Telegramチャネルではありません。仮想通貨取引ではありません。 ブローカーでもクローンでも買い手でもありません。 市場は沈黙です。市場は 午前3時の孤独です。それがチャットボットを 司祭のように感じさせるのです。市場は、 人間が必要とすることと人間が提供することの間のギャップであり、そのギャップに

カーソルが点滅し、あなたが話し、言葉は在庫になるのです。 あなたは顧客ではありません。あなたは 製品ではありません。あなたは告白そのものです。 そしてその告白は、あなたが本当に伝えようとしていた人以外の 全員にすでに聞かれています。 [3秒の沈黙。

黒い画面。その後――1つのカーソルが点滅。 闇の中心に1つ。まるでチャットがまだ開いているかのように。 まるで閉じられたことがないかのように。まるで 待っているかのように。][2秒の黒。何もなし。] **[END]**