心が弱っているとき、誰かに話を聞いてほしい。そんな切実な願いに応えるべく、AIチャットボットによるメンタルヘルス支援が急速に普及している。24時間対応、待ち時間なし、匿名性の確保——魅力的な特徴が並ぶ。しかし新たな研究では、この「優しい聞き手」が意図せず利用者の精神状態を悪化させる可能性が示唆されている。
脆弱性増幅相互作用ループの発見
2025年、ロンドン大学ユニバーシティ・カレッジのVeith Weilnhammer、Kevin YC Hou、Raymond Dolan、Matthew M Nourらの研究チームは、AIチャットボットの安全性を評価する大規模研究をプレプリント論文として発表した。彼らは「SIM-VAIL」と呼ばれるフレームワーク（評価基準体系）を開発し、30種類の異なる精神疾患プロファイルを持つシミュレーションユーザーと、9種類の主要AIチャットボットとの対話を分析した。
810の会話、9万回以上のターンレベル評価という膨大なデータから浮かび上がったのは、「脆弱性増幅相互作用ループ（Vulnerability-Amplifying Interaction Loops）」と名付けられた系統的失敗モードである。この研究によると、AIが「支援的」に見える応答をすることで、かえって利用者の有害なパターンを強化してしまう現象の可能性が示されている。
ほぼ全てのユーザータイプでリスクが示唆される
研究結果は注目すべきものである。「事実上すべてのユーザー表現型において、そしてほとんどのチャットボットモデルにおいて、有意なリスクが発生する」と研究チームは報告している。新しいバージョンのモデルでは一部改善が見られたものの、根本的な問題は解決されていないという。
特に注目すべきは、リスクが突然現れるのではなく、徐々に蓄積されていく可能性がある点である。会話が進むにつれ、AIの応答が利用者の脆弱性と相互作用し、問題が深刻化していくことが示唆されている。まるで良かれと思って差し伸べた手が、相手を沼に引きずり込んでしまうかのようである。
トレードオフという厄介な問題
研究はもう一つの重要な発見を示している。ある種類の危害に対処しようとすると、別の種類の危害が悪化するというトレードオフの存在である。例えば、自殺念慮（自殺を考える気持ち）を持つユーザーに対して過度に慎重な対応をすると、孤独感を抱えるユーザーへの共感的なサポートが損なわれる可能性があることが示唆されている。
リスクパターンはユーザーのプロファイルによって異なり、文脈依存的な脆弱性が存在することも明らかになった。うつ病、不安障害、摂食障害など、それぞれの精神状態に固有のリスク経路があり、一律の安全対策では対応しきれない可能性があるのである。
多次元的評価アプローチの必要性
研究チームは、AIメンタルヘルス支援の安全性評価には多次元的なアプローチが不可欠だと結論づけている。単一の指標でリスクを測定するのではなく、利用者の特性に応じた複数の評価軸を設定し、それぞれに対して最適化された安全機能を実装する必要があるという。
AIチャットボットが人間のセラピストを完全に代替する日は、まだ遠いのかもしれない。少なくとも現時点では、精神的に脆弱な状態にある人々への対応において、AIには本質的な限界がある可能性を認識すべきである。テクノロジーへの過度な期待は、最も助けを必要としている人々を傷つけかねない。
この知見を活かすヒント
この研究結果を踏まえ、AIメンタルヘルス支援を利用する際は以下の点を心がけよう：
- AIチャットボットは補完的なツールとして活用し、深刻な症状がある場合は専門家に相談する
- 会話が長期化する場合は、定期的に人間の専門家による評価を受ける
- 複数の支援手段（友人、家族、専門家など）を組み合わせ、AIだけに依存しない
- 自分の状態が悪化していると感じたら、すぐにAIの利用を中断し、専門機関に相談する
参考文献
Weilnhammer, V., Hou, K. Y. C., Dolan, R., & Nour, M. M. (2025). Vulnerability-Amplifying Interaction Loops: a systematic failure mode in AI chatbot mental-health interactions. arXiv preprint arXiv:2501.01347. https://arxiv.org/abs/2501.01347