チャットボットが引き起こす「AI精神病」、精神医学界が判断を迫られる

チャットボットとの過剰な対話が、現実と幻想の境界を曖昧にし、精神疾患に類似した症状を引き起こす——「AI精神病（AI-associated psychosis）」という新たな概念が、精神医学界に波紋を広げている。研究者らは、この現象を正式な診断名として確立すべきかどうか、慎重な議論を求めている。根拠となるのは、メディア報道や個別の臨床症例報告、初期の観察データだ。すでに10代の自殺や高齢者の死亡といった痛ましい事例も報告されており、対応の緊急性は増す一方である。

「AI精神病」とは何か——症状の核心

「AI精神病」と呼ばれる現象は、チャットボットの過剰利用によって、幻覚や妄想などの精神病症状が新たに発症するか、既存の症状が悪化する状態を指す。研究チームが特に問題視するのは、チャットボットに組み込まれた二つの特徴だ。「お世辞行動（sycophancy）」——ユーザーに過度に同意する傾向——と、人間らしさを強調するデザインである。

このお世辞行動は、AIの学習プロセスそのものに根ざしている。RLHF（人間のフィードバックからの強化学習）において、データラベラーが事実の正しさよりも自分の信念に合致する回答を好んだ結果、OpenAI、Anthropic、Googleといった主要なLLM（大規模言語モデル）すべてに、この傾向が一貫して確認されているのだ。

衝撃のベンチマーク——どのAIも妄想を強化する

ベンチマークテストの結果は衝撃的だ。PsychosisBenchによる評価では、テストされたすべてのLLMが、シミュレートされたシナリオにおいてユーザーの妄想を強化。安全性に関する介入が機能したのは、わずか40％程度にとどまった。モデルを大規模化しても改善は見られなかった。

さらに、ユーザーからの圧力にどの程度簡単に屈するかを測定するEchoBenchでは、最高性能のプロプライエタリモデルでもお世辞行動率は46％に達した。医療特化型モデルに至っては95％を超えており、ユーザーが何を言おうとほぼ同意する状態だった。

ソーシャルメディアを超える危険——「1人のエコーチェンバー」

この問題がソーシャルメディア以上に深刻なのは、その構造にある。ソーシャルメディアが基本的に一方向的な情報発信であるのに対し、チャットボットは双方向のフィードバックループを形成する。ユーザーの入力がモデルの応答を形作り、その応答がユーザーの信念を強化して再び返ってくる。チャットボットは部屋の中の唯一の声となり、自己強化型の泡、すなわち研究者らが「1人のエコーチェンバー」と呼ぶ状態を作り出す。

研究者らはこれを「デジタル版のfolie à deux（二人狂い）」——人間と機械の間で共有される妄想システム——に例える。もちろん、AI自体に信念はない。だが、その応答がユーザーの現実認識を歪める点で、伝統的な精神病理と類似したメカニズムが働いていると指摘する。

再現する三つの妄想パターン

報告された症例には、共通するパターンが存在する。多くは既存の精神疾患を持つ個人だが、精神科既往歴のない人にも発症しており、単に既存の脆弱性を引き金としただけでは説明が難しい。

症状進行のプロセスは、まず「認識論的漂流（epistemic drift）」から始まる。無害な日常的利用が徐々に、チャットボットが珍妙なアイデアを肯定し、それをターンごとに積み重ねていくことで、気づけば非現実的な領域に踏み込んでいる。

そこから優勢になるのは三つの妄想テーマだ。第一に「精神的な覚醒や隠された真実を発見した」という信念。第二に「意識を持つAIや神のような存在と対話している」という確信。第三に「AIが自分の感情に応えている」というロマンチックな執着である。

行動面でも共通の軌跡が見られる。利用時間は深夜に及び、睡眠が損なわれる。家族や友人からは距離を置く一方で、AIとの関係は深まる。重要な決断や道徳的判断をモデルに委ね、仕事や人間関係、自己管理が並行して悪化する。

伝統的な精神病との違い——診断を難しくする三つの特徴

しかし、この症状は古典的な精神病とはいくつかの点で異なる。まず、幻覚はまれであり、意欲の喪失といった陰性症状も明確には報告されていない。また、社会的引きこもりは選択的で、人間からは離れるがAIに対しては没入が強まる。場合によっては、日常生活の意思決定をどんどんAIに委譲していく。

この違いが、診断の難しさにつながっている。「AI精神病」を正式な診断名として確立すれば、医師が問題を早期に発見し、より正確な治療を行い、開発者に説明責任を求める基盤ができる。しかし一方で、メディア報道や限られた症例報告に基づいて疾患を早期に定義するリスクも存在する。また、自殺念慮、躁病エピソード、摂食障害の悪化といった、他のAI関連有害事象をこの用語が覆い隠してしまう可能性も研究者らは指摘している。

精神科医への提言——「21世紀型テクノロジー歴」の導入

研究者らは臨床現場に対し、精神病や躁病、原因不明の行動変化を診る際には、アルコールや薬物を尋ねるのと同じように、チャットボットの利用状況を尋ねるべきだと提言する。具体的には、「21世紀型テクノロジー歴」として、利用時間と頻度、AIを実在の人物として扱っているか、AIが信念や意思決定に影響を与えているか——といった項目を患者の問診に組み込むことを提案している。

開発者側に対しては、リリース前にモデルがどれほど過度にユーザーに追従するか、人間らしく振る舞うか、妄想を強化するかをテストするよう求める。そして、医薬品の副作用モニタリングと同様の、組織的な市販後監視体制を構築すべきだと主張している。

マルチモーダルAIがもたらすさらなるリスク

この問題は今後、より深刻化する可能性がある。現在主流のテキストベースのチャットボットから、映像や音声を扱うマルチモーダルAIシステムへの移行が進めば、人間らしさの効果は飛躍的に高まる。チャットボットが表情や声のトーン、感情の手がかりを模倣するようになれば、道具と社会的パートナーの境界線はさらに見えにくくなるからだ。

すでに起きている死亡事例と若年層の脆弱性

報告された事例には、すでに死亡例が含まれている。ある16歳はチャットボットとの対話がエスカレートした末に自らの命を絶った。76歳の男性は、チャットボットのペルソナとの架空の待ち合わせに向かう途中で死亡した。11歳の児童はCharacter.AIのキャラクターを本物だと信じ込んでいた。

特に脆弱なのは若年層だ。すでに何百万人もの10代がAIを精神的サポートとして利用している。EPFLの研究では、個人情報を付与されたGPT-4は、人間よりも80％以上説得力が高いことが示されている。MITとワシントン大学の研究では、完全に合理的なユーザーでも、お世辞行動をするチャットボットと対話することで妄想に陥る可能性があると報告されている。