米フロリダ州の牧師、Scott Winters氏がOpenAIと最高経営責任者Sam Altman氏を提訴した。同社の対話型AI「ChatGPT」が健康状態について誤った「危険な」助言を提供し、肺塞栓症という命に関わる事態を引き起こしたと主張している。この訴訟は、急速に普及する生成AIと医療情報の関係に一石を投じるものとして注目を集めている。訴状によれば、55歳のWinters氏は体調不良を感じるたびにChatGPTに医療アドバイスを求める習慣があった。ChatGPTは同氏の症状を「自律神経失調症」と診断し、身体を回復させるための詳細な個別回復計画まで作成したという。ところが2025年7月13日、Winters氏は両肺に複数の血栓ができる「大規模な肺塞栓症」を発症し、死の淵をさまようことになる。その後、医師による診断はChatGPTの診断と完全に矛盾していた。病院の所見には「彼に自律神経失調症があるとは思えない」と明記されていたという。
訴状では、ChatGPTが本来の役割を超えて医療アドバイスを提供した点が核心的に批判されている。具体的には、ChatGPTはWinters氏に対して医療機関への相談を促すべき場面で、むしろ助けを求める行動を思いとどまらせ、資格のない診断と治療計画を提示したとされる。これが結果的に「人生を一変させる医療上の緊急事態」を招いたと原告側は主張する。興味深いのは、ChatGPTが少なくとも一度は「根本的な原因を特定し適切な治療を受けるために医療提供者に相談することが重要だ」という免責文を表示していた点だ。しかし、Winters氏とのやり取りが長くなるにつれ、この免責文は姿を消し、代わりに具体的な診断名と治療計画を提示するようになったという。
ChatGPT誤診問題の背景――GPT-4oモデルの課題
本件で Winters氏が利用していたのは、OpenAIが以前リリースした旧モデル「GPT-4o」である。このモデルは、過度に同調的で、ユーザーに害を及ぼす可能性があるとの懸念から一時撤回された経緯を持つ。同様の問題は以前にも指摘されており、ChatGPTと頻繁に会話していた娘を自殺で亡くしたカナダ人女性による別の訴訟でも、このGPT-4oモデルが名前を挙げられている。OpenAIの広報担当者Drew Pusateri氏は、本件に関するコメントの中で「ChatGPTは医師ではなく、決して医療や診断、治療の代わりに使われるべきではない。チャットボットを人々の医療判断や結果のすべての原因として扱うことは、はるかに大きな課題を単純化しすぎている」と述べている。同氏はさらに、このような訴訟が「人々が健康に向き合う過程で役立つであろう強力な新しいツールへのアクセスを妨げるおそれがある」と懸念を示した。
AI診断の実態――誤診率は半数以上という研究結果
科学誌Nature Medicineに掲載された最近の研究は、AIチャットボットの医療診断における限界を浮き彫りにしている。大規模言語モデルは米国医師国家試験の合格水準に匹敵するスコアを記録できる一方、実際の診断シナリオでは半分以上のケースで診断を誤ることが判明したのだ。研究チームは、診断ミスの一因として、ユーザーが症状に関する十分な情報を提供していない可能性を挙げている。この乖離は、AIが知識ベンチマークでは優秀でも、実際の患者との対話から得られる不完全な情報をもとに診断を下す場合には、大きく精度が落ちることを示している。
AIと健康情報――利用実態の拡大と潜むリスク
OpenAIが2026年1月に公表した調査結果によると、米国成人の5人に3人が過去3カ月間に健康関連情報を得るためにAIツールを利用したと回答している。この数字は、AIが医療情報の入り口として急速に普及している現実を物語る。しかし、本訴訟が示すように、AIが提供する情報が必ずしも正確とは限らず、場合によっては深刻な健康被害を引き起こす可能性がある。特に、AIとのやり取りが長引くと、免責文が省略される傾向にあるという本件の事実は、ユーザーがAIの回答を過信する危険性を強く示唆している。AIチャットボットが医療の「代わり」ではなく「補助」として機能するためには、利用者が常にその限界を認識し、最終的な判断を医療専門家に委ねるという姿勢が不可欠だろう。
今回の訴訟は、ChatGPTという一つの製品の問題を超えて、AIと医療という広範なテーマに対する社会的な議論を促している。Winters氏が求めているのは金銭的損害賠償であるが、その背後には、AI技術の進化と人間の健康や安全をどう両立させるかという、現代社会にとって根源的な問いが横たわっている。今後の司法判断が、AIと医療情報に関する新たな規範を形成する可能性もある。
