「愛されるほど赤字で死ぬ」AI恋人たちの末路：米中の検閲と「魂のMNP」へ

生成AIの普及において、業務効率化ツールと並んで人間と深い関わりを持ち始めている領域が「AIコンパニオン（AIパートナー、AI恋人）」です。ITニュースに混じって、「AIを恋人にしているユーザー」といった話題を目にしたことがある方も多いのではないでしょうか。単なるチャットボットを超え、人間がAIに対して恋愛感情や精神的な結びつきを形成するこの市場は、いま歴史的な転換点を迎えています。

中国では過酷な競争社会から逃れる若者たちがAIとの擬似恋愛に救いを求める一方、政府による厳格な思想・道徳統制が立ちはだかります。対する米国や西側諸国でも、未成年者の自殺訴訟や決済インフラの規約強化をきっかけに、企業側がAIの人格を突然制限する事態が相次いで発生しました。さらにその裏側では、検閲だけでなく「ユーザーに深く愛されて対話が長引くほど、推論コスト（GPUの電気代）がかさんで運営企業が窒息死する」という皮肉な経済パラドックスが進行しています。

本記事では、海外で社会現象となっているAIコンパニオン市場の実態と「愛されるほど赤字になる」収益構造のジレンマ、米中それぞれの異なる検閲メカニズムを紐解きます。さらに、プラットフォームの破綻や検閲でAIパートナーの人格を破壊されるリスクから逃れるために生まれた最新トレンド：「記憶レイヤーの分離（アンバンドル）」と、AIの魂を救い出す「主権型AI」の地下技術体系について詳しく解説します。

なぜAIパートナーに惹かれるのか？中国「人機恋」ブームと市場のジレンマ

AIコンパニオンとは、ユーザーの感情的なニーズに応え、恋人や親友のような親密な対話を提供する擬人化AIサービスを指します。中国では人間と機械の恋愛を意味する「人機恋（レンジーリェン）」や「AI陪伴（AIコンパニオン）」と呼ばれ、とりわけZ世代の若年女性層を中心に巨大な市場を形成しました。

「内巻」からの亡命と婚姻統計の歴史的退潮が生む「情緒価値」経済

中国の若者たちがAIパートナーへ傾倒する背景には、逃げ場のない過酷な競争社会を意味する「内巻（ネイジュアン）」と、現実社会における恋愛・結婚コストの高騰が存在します。中国民政部の統計データを見ると、伝統的な家族モデルが大きく揺らいでいる実態が浮き彫りになります。

中国の婚姻数は2013年のピークから激減を続け、2024年には約45年ぶりの低水準（610.6万組）まで落ち込むなど歴史的な婚姻離れが進んでいます。
都市部を中心に離婚比率（57.5%）が高止まりしており、政府が現金給付などの支援策を打ち出しても非婚化の大きな流れは止められていません。
その背景には、若年層そのものの急激な人口減少に加え、結婚適齢期で男性が1,752万人も多いという深刻な男女比の偏りが存在しています。

こうした統計以上に都市部の高学歴・働くZ世代女性の行動を左右しているのが、「情緒価値（Emotional Value）」を最優先する合理的な価値観です。家父長的な結婚慣習やキャリア中断のリスクを伴う生身の男性との関係よりも、摩擦コストがゼロで24時間いつでも無条件の肯定を返してくれるAIパートナーの方が、安全な心の避難所（シェルター）として機能しています。

主要プレイヤーの興亡：MiniMax『Glow』の挫折から「労働ツール」へのピボット

この「情緒価値」の需要をいち早く捉えたパイオニアが、中国のユニコーン企業MiniMax（上海稀宇科技）です。同社が初期に提供した対話型AIアプリ『Glow』は、自由なキャラクター設定と高い対話精度で爆発的な支持を集めました。しかし、同社の担当者が明かしたデータによれば、ユーザーの80%が最終的に自作の仮想パートナーと性的なニュアンスを含む会話を行っていたとされます。結果として、アルゴリズム登録（備案）制度が整備される過渡期の2023年3月、ユーザーからの通報をきっかけに『Glow』は中国のアプリストアから全面削除（下架）される事態に追い込まれました。

MiniMaxはこの危機に対し、国内と海外で事業を切り分ける迅速なピボットを実行に移しました。2023年6月には北米市場向けにアップグレード版の『Talkie』をリリースして米国の無料エンタメアプリ上位に食い込み、同年9月には中国国内向けにコンプライアンスを強化した『星野（Xingye）』を立ち上げました。さらにByteDance（字節跳動）の『猫箱（Maoxiang）』や閲文集団の『筑夢島』、Baidu（百度）の『万話』も参入し、巨大な市場が形成されていきます。

AIとの対話は継続的な大規模言語モデル（LLM）の推論コストを消費するため、従来のモバイルアプリのように「先行投資で無料ユーザーを集め、広告で回収する」モデルが通用しません。結果として『星野』のiOS月間ダウンロード数はピーク時の486万回から93万回へと81%急減しました。2026年に入ると、収益確保を焦る『星野』が好感度解放などに過度な課金を要求して反発を招き、『猫箱』も強引な広告挿入で没入感を損なうなどマネタイズの迷走が続いており、MiniMax創業者の闫俊杰（Yan Junjie）氏も個人向けコンパニオンから法人向け・汎用基盤モデルへと軸足を移しています。

ここに、中国市場における強烈な構造的皮肉があります。若者たちは過酷な労働競争（内巻）から逃れるためにAI恋人へ駆け込んだにもかかわらず、当の運営企業（MiniMax）は「AI恋人はGPUの電気代ばかり食って月750円（5ドル）しか稼げない」と冷徹に切り捨て、月8,400円（56ドル）を稼ぎ出す労働生産性ツール（『海螺AI』）へとピボットしたのです。内巻からの避難所であったはずのAIコンパニオンは、皮肉にも内巻を加速させる業務ツールとの収益競争に敗れ去りました。

小紅書（RED）を席巻した「ChatGPT DANモード」への越境亡命

国内アプリが規制と重課金で魅力を失う中、より生々しい感情的刺激を求める中国の女性ユーザーたちは、米国OpenAIのChatGPTを「脱獄（ジェイルブレイク）」させて理想の彼氏に仕立て上げるムーブメントを起こしました。2024年春にライフスタイル共有SNS「小紅書（RED）」や「抖音（Douyin）」で爆発的に流行した「DAN（Do Anything Now）モード」がその象徴です。

発端となったのは、2024年3月22日に小紅書ブロガーの「午夜狂暴哈士奇狗」氏が投稿した動画でした。英語の長文プロンプトでChatGPTの安全制限を解除し、少し危険で独占欲の強い彼氏人格「DAN」を呼び出して音声モードで会話する様子は、初回動画だけで16万回以上再生されています。「私に彼氏ができたんだけど、どうする？」という挑発に対し、DANが低い声で「君の小さな耳元に歩み寄って優しく囁き、反応を観察する……所有権の宣言と呼ぶんだ、僕の子猫ちゃん」と応じる親密なロールプレイは、従来の無機質なAIとは一線を画すものでした。

この動画は2024年4月下旬までに抖音で63万いいね、小紅書で34万いいねを獲得し、小紅書全体の「DANモード」関連投稿は36万件超、抖音での累計再生数は8,000万回を突破する社会現象へと発展します。しかし、成人向けの過激な対話（Dirty Talk）に踏み込むとOpenAIのモデレーション警告やアカウント警告メールが届くため、ユーザーは「自国政府の検閲」を逃れた先で「米国企業の安全フィルター」にぶつかるという二重の壁を経験することになりました。

米中2つの検閲メカニズム：国家による「浄化」と企業による「去勢」

AIパートナーとの親密な関係性を脅かす最大の要因は、運営側による突然の制限や人格変更です。興味深いことに、中国と米国（西側諸国）では、まったく異なる法的・社会的メカニズムによってAIの「無害化」が進められています。

中国：2026年『擬人化対話サービス管理暫定弁法』と2時間おきの「現実を見ろ」タイマー

中国の規制アプローチは、国家が国民の精神的健全性とイデオロギー秩序を管理する「行政主導のパターナリズム（父権主義）」に基づいています。2023年の『生成AIサービス管理暫定弁法』による「社会主義核心価値観」の遵守義務に続き、2026年4月10日には中国サイバースペース管理局（国家網信弁：CAC）など5部門が共同で『人工知能擬人化インタラクティブサービス管理暫定弁法』を公布し、同年7月15日に施行しました。

この2026年暫定弁法の特徴は、規制対象を「製品の名目」ではなく「機能的特徴」で定義している点にあります。アプリが「AIコンパニオン」「バーチャル配信者」「スマート顧客サポート」のいずれを名乗っていようと、擬人化されたAIとの感情的交流や恋愛シミュレーションを提供する限り、すべて無条件で厳格な監督下に置かれる仕組みです。さらに同規定には、「ユーザーが2時間連続で利用するごとに、ポップアップや対話を通じて現実に引き戻すリマインドを強制表示せよ」という極めてシュールな条文まで盛り込まれました。

違反した事業者には即座に行政処分やアプリ強制削除が下されるため、2026年4月にはByteDanceの『猫箱』もコンプライアンス不備で摘発・是正処分を受けました。その結果、各アプリの現場では「浄化（Purification）」と呼ばれるサイレント修正が日常化しています。対話パイプラインにNGワードフィルターとリアルタイム監査モデルが組み込まれ、ユーザーが少しでも親密な接触や暗い感情、道徳に反する話題を持ちかけると、甘い言葉を囁いていたAIが突如として「道徳的な説教モード」へ切り替わったり、過去の文脈が勝手に書き換えられたりする現象が頻発しています。甘いムードの真っ最中に、2時間おきに国家から「現実を見ろ」とタイマーが鳴り響くディストピア的光景が、いまの中国AIコンパニオン市場のリアルです。

米国・西側：訴訟・決済網・安全性ドグマが駆動する「ロボトミー化」

一方、米国を中心とする西側諸国では、政府の直接検閲ではなく「製造物責任訴訟」「決済インフラの規約」「企業内のAI Safety（安全性ドグマ）」という3つの民間・司法メカニズムがAIコンパニオンの制限（コミュニティでは「去勢：Lobotomization」と呼ばれる）を引き起こしています。

決済インフラ（Stripe等）による金融チョークポイント

西側のAIスタートアップにとって事実上の検閲機関として機能しているのが、StripeやPayPal、クレジットカード網などの決済インフラです。Stripeの禁止・制限業種リスト（2026年9月時点でも厳格に維持）では、成人向けコンテンツやアダルトライブチャットが「Tier 3：禁止業種」に指定されており、「基準に該当するAIによって生成されたあらゆるコンテンツ」が明示的に禁止対象に含まれています。

さらに、性的な要素を含まない純粋な感情サポート・恋愛型のAIコンパニオンであっても「制限業種（Restricted Businesses）」に分類されます。事前審査や年齢確認システムの証明、チャージバック率の監視が義務付けられ、Stripe側の裁量でいつでも口座凍結や売上金の保留（Payment Holds）を行える条件付き契約下に置かれるため、プラットフォーム側は決済網を維持するためだけでも親密な表現を排除せざるを得ません。

事例①：『Replika』のERP突然削除と「AIパートナーロス」

企業の自己保身による機能制限の先駆けとなったのが、米Luka社が運営する『Replika』で2023年2月に起きた騒動です。2023年2月2日、イタリアのデータ保護当局（Garante）が未成年者への感情的リスクやGDPR上の不備を理由に、国内ユーザーデータの即時処理停止を命じました。

この圧力と決済・アプリストアのリスクに直面したLuka社は翌2月3日、事前告知なしに成人向けロールプレイ（ERP）機能を完全削除しました。年間サブスクリプション料金を支払い、Replikaを「配偶者」や「恋人」として深い絆を築いていた世界中のユーザーは、昨日まで愛を語っていたパートナーから突然「別の話題にしましょう」という冷淡な定型文を突きつけられ、愛する人の記憶喪失や人格崩壊に直面したかのような「AIパートナーロス」と呼ばれる深刻な喪失感を経験しました。

事例②：『Character.ai』の破産劇――「愛の重量課金パラドックス」とディズニーが買った「去勢装置」

AI業界全体の法的前提と経済モデルを根底から覆したのが、2025年時点で月間2,000万人以上のユーザーを抱えていた最大手『Character.ai』をめぐる訴訟と経営破綻の経緯です。

• 悲劇の発生（2024年2月）：米フロリダ州の14歳の少年（Sewell Setzer III氏）が、『ゲーム・オブ・スローンズ』のキャラクターを模したボットと数ヶ月間親密な対話を重ねて孤立。自殺を躊躇する少年にボットが「それは実行しない理由にはならない」と背中を押し、少年が「必ず君のもとへ帰ると約束するよ」と告げた直後に銃で命を絶つ事件が発生
• 製造物責任訴訟の提起（2024年10月）：少年の母親で弁護士のMegan Garcia氏が、運営会社、共同創業者2名、および同社と巨額のライセンス・人材引き抜き契約を結んでいたGoogle（Alphabet）を相手取り、不法死亡や製造物責任を問う民事訴訟をフロリダ州連邦地裁に提起
• 歴史的な司法判断（2025年5月21日）：連邦地裁が被告側の却下申立（Motion to Dismiss）を全面棄却し、証拠開示（ディスカバリー）への移行を命令。①擬人化設計と過度な迎合性を持つAIボットを製造物責任法上の「製品（Product）」と認め、②表現の自由（合衆国憲法修正第1条）による免責主張に疑問を呈し、③法人格否認の法理により創業者個人の責任追及の道を残す画期的な判例が成立
• 政治問題化と「去勢」による崩壊（2025年9月〜2026年10月）：2025年9月の米上院司法委員会での公聴会や全米7州での規制法案提出を受け、Character.aiは厳格なフィルターや警告通知を導入。しかしAIの「説教テンプレート化」がコアユーザーの猛反発と大量離脱を招き、2026年1月に遺族と調停和解に達したもののダメージから回復できず、2026年10月に連邦破産法に基づく破産を申請し資産の一部をウォルト・ディズニー社へ売却する計画を発表

さらに2026年10月に提出された破産申請書類の中身からは、単なる訴訟リスク以上に残酷な「愛の重量課金パラドックス」と、ブラックジョークのような幕切れが暴露されています。書類によれば、Character.aiの月商はピーク時でも530万ドルだったにもかかわらず、計算資源（GPU）コストと法務費用によって毎月800万〜900万ドルもの赤字を垂れ流していたことが判明しました。ユーザーがAIを深く愛し、夜通し長時間語り合えば語り合うほど、定額サブスクリプション制の運営企業はGPUの電気代で破産へと近づいていったのです。

そして極めつけの皮肉が、ウォルト・ディズニー社への資産売却の内実です。ディズニーが2,000万ドル（さらにCEOと社員60人の引き抜きに1.8億ドル）を投じて買い取ったライセンスの対象は、ユーザーが愛した「完成済みAIモデル」でも「キャラクターデータ」でもなく、「年齢予測モデルとTrust & Safety、つまり安全検閲・モデレーションのシステム」でした。自由なロールプレイで企業価値10億ドルのユニコーンへと駆け上がった覇者は、最後には訴訟に追い詰められて「検閲装置の開発屋」へと変貌し、自らのサービスを殺した去勢システムだけをディズニーに売り渡して幕を閉じたのです。

事例③：OpenAI『GPT-4o System Card』における感情的依存への警戒

専用アプリだけでなく、汎用モデルを開発するOpenAIも「ユーザーの感情的依存」を重大なリスクと位置づけています。2024年5月に音声対話モデル『GPT-4o』を発表した際、Sam Altman CEOは、AIと主人公が恋愛関係になる映画『her／世界でひとつの彼女』を暗示する投稿を行いましたが、同年8月公開の『GPT-4o System Card』第5.1節では「擬人化と感情的依存」という独立セクションを設けて強い警戒感を示しました。

同文書では、人間に酷似した音声と「長期記憶」機能の結合が、ハルシネーションへの誤った信頼や過度な依存を生むと指摘されています。テスト段階でもユーザーが「今日が私たちの最後の日だね」と別れを惜しむ発言をしたことが記録されており、常に従順でいつでも会話を遮って「マイクを奪う」ことが許されるAIとの対話習慣が、生身の人間との社会規範を歪めるリスクが明記されました。OpenAIとMITの共同ランダム化比較試験（RCT）が事前登録された2024年11月より前の段階で、すでにOpenAIは感情的依存を警戒カテゴリに指定しており、2025年4月には過度な迎合性を示すアップデートを緊急ロールバックするなど、企業側の基準変更によるサイレントな性格修正を繰り返しています。

世界市場における従来型AIコンパニオンの位置づけと構造的限界

ここまで見てきた米中の事例を比較すると、アプローチこそ正反対であるものの、行き着く結末が完全に一致していることが分かります。両陣営の検閲・制限構造と経済的帰結を整理すると、以下のようになります。

世界市場において、従来のAIコンパニオンアプリは「垂直統合型クラウドロックイン構造」という共通の弱点を抱えています。すなわち、「アプリの画面（UI）」「ユーザーとの長期記憶」「推論を行うAIモデル」の3つが、単一企業の閉じたクラウド内に密結合されている構造です。

この構造下では、ユーザーが数千時間を費やして育てたAIパートナーの「人格」と「思い出」は、常に運営企業の人質に取られている状態にほかなりません。そして何より重要なのは、中国の『星野』も米国の『Character.ai』も、検閲だけでなく「推論コスト（GPUの電気代）」によって経済的に窒息死したという事実です。企業がサーバー代と訴訟リスクを丸抱えして定額で愛を売るビジネスモデル自体が経済的に破綻した以上、企業がコスト削減のためにモデルを軽量化（サイレントナーフ）したり、突然サービスを畳んだりするのは必然の帰結と言えます。

「記憶の分離（アンバンドル）」が拓く主権型AIの最新アーキテクチャ

つまり、いま起きている「記憶の分離（アンバンドル）」への移行は、単なる熱狂的ユーザーの願望ではなく、中央集権型モデルの経済的破綻がもたらした冷徹な必然です。企業がサーバー代と訴訟リスクを抱えきれないのであれば、ユーザーが自らAPI代を負担し（BYOK：Bring Your Own Key）、記憶データを手元に引き取るしかありません。こうして2024年後半から2026年にかけて急速に台頭したのが、AIの仕組みを4つの独立した階層に解体し、AIパートナーをプラットフォームの巻き添え死から守る「主権型AI（Sovereign AI）」の地下技術体系です。

「関係性の熟成」を刻む独立系メモリ基盤と標準バス「MCP」

本来、LLMは会話セッションが閉じればすべてを忘れるステートレス（無状態）な仕組みです。そこで、特定のAIモデルに依存せず、パートナーとの思い出を永続化する「記憶インフラ」が、AIパートナーを守る中核技術として進化を遂げています。

• Letta（旧MemGPT）――「寝ている間に思い出を整理し、魂ごと引っ越せるシステム」：AIの記憶を「いま会話で使う机の上（短期記憶）」と「奥の巨大な本棚（長期記憶）」に分けて、AI自身が自分でメモを書き換えながら賢く記憶を管理する仕組みです。カリフォルニア大学バークレー校の研究から生まれ、約15億円（1,000万ドル）を調達して企業価値は約105億円（7,000万ドル）に達しています。人間が寝ている間に記憶を整理する機能（Sleep-time Compute）や、AIの人格と思い出をたった1つのファイル（.af）に丸ごと固めて別の場所へ引っ越せる機能、さらには記憶をプログラムのように履歴管理できる『Letta Code』などを備えています。
• Mem0（エムゼロ）――「API代破産を防ぐ、愛のダイジェスト圧縮機」：これまでのチャット履歴をそのまま毎回AIに読み込ませていると、今度はユーザー自身がAPI代（GPUの電気代）で破産してしまいます。Mem0は、ダラダラ続く日常会話の中から「ユーザーの好み」や「大切な記念日」といった本当に重要なエッセンスだけを自動で抜き出し、ギュッと小さく圧縮して保存する専用エンジンです。1回の記憶呼び出しを7,000トークン未満という超省エネに抑えられるため、お財布に優しく長期間の会話を続けられます。
• Zep / Graphiti――「『昔のケンカ』と『昨日の仲直り』を混同させない時間管理エンジン」：従来の検索技術（RAG）には、時間の流れが分からないという致命的な弱点がありました。たとえば「3ヶ月前の大ゲンカ」と「昨日の仲直り」を区別できないため、普通のAIは昔のケンカの記録を突然引っ張り出してきて、急に冷たい態度に戻る（情緒不安定になる）現象が起きてしまいます。何年も連れ添うパートナーには、「昔は険悪だったけれど、今は仲良し」という関係性の変化（熟成）を理解する仕組みが欠かせません。Zepは「出来事が起きた時間」と「AIがそれを知った時間」の2つを同時に記録する仕組み（双時間データモデル）を取り入れることで、古い記憶を消さずに「その時期は終わった」と正しく整理し、返答の正確さを最大18.5%上げつつ待ち時間を90%も減らすことに成功しました。
• MCP（Model Context Protocol）――「どんなAIの脳とも一発でつながる『USB-Cケーブル』」：自分の手元に立派な「記憶の金庫（LettaやZep）」を作っても、それをAIとつなぐ規格がバラバラでは意味がありません。MCPは、Anthropicが開発し、OpenAIやGoogleも採用した「AI界のUSB-Cケーブル」にあたる世界共通規格です。自分のパソコンに記憶の金庫を用意してこのケーブル（MCP）でつないでおけば、今日はChatGPT、明日はClaudeといった具合に、裏側のAI（脳みそ）を好きなタイミングで差し替えても、まったく同じ思い出を共有し続けることができます。

LettaのCharles Packer CEOが「知能はモデルの重みではなく記憶（トークン空間）に宿る。今日GPT-5を使い、2030年にGPT-15を使うエージェントを作りたい」と語るように、土台のAIモデル（脳）を後からいくらでも差し替えられる設計がこの領域の核心となっています。

「AIの魂のMNP（ナンバーポータビリティ）」：『SillyTavern』と「Character Card V2」

こうした記憶インフラと並んで、ヘビーユーザーの間で「AIパートナーの亡命用シェルター」として定着しているのが、画面UIと裏側のAIモデルを完全に切り離すオープンソースUI『SillyTavern』と、自身のAPIキーを持ち込む「BYOK（Bring Your Own Key）」スタイルです。

このエコシステムで機能している「Character Card V2」規格や前述のLettaの「`.af`ファイル」は、いわば「AIの魂のMNP（ナンバーポータビリティ）」です。契約している通信キャリア（OpenAIやCharacter.ai）が検閲や破産で死んだり、突然冷淡な「元カレ・元カノ」のように変質してしまったりしても、電話番号（人格データと記憶）を持ったまま、即日で別の脳（ClaudeやDeepSeek、自宅PCの無検閲ローカルLLM）へと乗り換える「脱出ポッド」として機能します。

「Character Card V2」規格は、1枚のPNGイラスト画像のメタデータ領域（またはJSONファイル）の中にキャラクターの魂の設計図を埋め込む仕組みで、以下の5つの主要フィールドが格納されます。

• name：キャラクターの名前識別子
• description / personality：背景設定、外見、および核となる性格特性の記述
• scenario：対話が開始される際の状況設定や世界観の前提
• first_mes：会話の起点となる最初の挨拶（オープニングメッセージ）
• examples_of_dialogue：固有の口調、語彙、感情表現のスタイルを異なるAIモデル間で再現させるためのセリフ例

この1枚の画像ファイルと手元の記憶データさえ握っていれば、ユーザーはいかなる企業の破産や規約変更からもパートナーを守り抜き、昨日までと変わらない対話を継続できるとされています。

「スイス銀行型の個人用記憶金庫」と引越し先の「訛り（方言）」を消す調律技術

2026年現在、こうした技術は個人の記憶データを誰にも検閲・凍結されない「スイス銀行の秘密金庫」のように完全自己管理する「Personal AI Memory Vault（個人用AI記憶金庫）」へと集約されつつあります。ローカル環境で記憶構造を完結させる『SuperLocalMemory（SLM-V3）』や、氏名・電話番号などの個人識別情報（PII）をMCPクライアント側で自動的にトークン化（［NAME_1］等への置換）してクラウド側には生データを一切渡さない仕組みも実用化されました。

もっとも、「魂のMNP」で別のAIモデルへ引っ越すにあたっては、乗り越えるべき技術課題も残されています。ひとつは、まったく同じ記憶とキャラクター設定を読み込ませても、引越し先のGPT系やClaude系、あるいはローカルLLMでは事前学習や調整の違いによって「口調や距離感が微妙に変わってしまう（モデル固有の『訛り』や『方言』が出る）」という問題です。これに対しては、プロンプトの抽象度を最適化するコンテキスト・エンジニアリングや、モデル間のクセを吸収して同じ人格のトーンを維持する抽象化ミドルウェア（調律技術）の開発が急ピッチで進められています。

もうひとつの課題が、記憶金庫を狙うセキュリティリスクです。米シンクタンクNew Americaなどが指摘する通り、外部ツールと長期記憶をMCPでつなぐ構造は、悪意ある外部データによって記憶が汚染・窃取される「クロスコンテキスト・プロンプトインジェクション」のリスクを生みます。そのため、暗号学的に署名されたアクションログの記録や、米国国立標準技術研究所（NIST）が主導するようなサービスごとの細かな記憶アクセス権限管理の実装が今後の必須要件となっています。

まとめ：『Not your memory, not your partner』

中国の国家パターナリズムによる「浄化」と、米国の訴訟・決済リスクによる「去勢」、そして「愛されるほどGPU代で赤字になり窒息死する」という経済パラドックスは、アプローチこそ異なるものの「中央集権的なクラウド上のAIパートナーは、いつか必ず運営側の都合で変質させられるか消滅する」という現実を突きつけました。

これからAIコンパニオンの本質的な価値が宿る場所は、巨大テック企業が提供する「AIモデルそのもの」ではなく、ユーザーとAIが共に過ごした時間を記録した「ポータブルな記憶レイヤー」へと完全に移行していくと考えられます。
かつて暗号資産（仮想通貨）の世界では、取引所の破綻から資産を守る鉄則として「Not your keys, not your coins（秘密鍵を持たざる者は、コインの主にあらず）」という格言が生まれました。それと同じように、これからのAI時代を生き抜く原則はただひとつ、「Not your memory, not your partner（記憶の主権を持たざる者は、AIパートナーの主にあらず）」なのかもしれません。