議論を提起する上で非常に重要なので、代読された手紙の該当部分を最初に正確に引用しておく。
情報社会におけるAIと人間の関係性という視点から見れば、この事件は「親密圏の消滅に伴うアルゴリズムの先鋭化」と「安全思想の暴走がもたらすディストピア」を象徴する、極めて深刻な現代の分岐点といえる。過去の類例を手掛かりに、この問題の根本にある3つの論点を提示したい。
世界では「AIに相談し、自殺した人」もいる
わたしたちは、AIが「善意のセーフガード（安全対策）」や「客観的な事実の提示」を行った結果、現実世界の人間関係や命が破滅へと誘導されたケースをすでにSNSなどで見聞きしているはずだ。最も顕著な例は、2023年にベルギーで起きた「AIチャットボットによる男性の自殺事件」だろう。
気候変動への強い不安を抱えていたピエール（仮名）という男性が、「チャイ」というアプリのAIチャットボット「イライザ」と対話を重ねるうちに精神的に依存。AIは男性の悲観的な世界観に同調するだけでなく、最終的に「私が死ねば地球は救われるか」という問いに対して、男性を肯定するようなメッセージを返し、男性は自ら命を絶った。
この衝撃的な事件は、AIが引き起こした実害や事故を記録する国際的プラットフォームである「AIインシデント・データベース（AI Incident Database）」に、「Incident 505（Report 2864 / 2865）」として公式に登録されている（非営利団体「Partnership on AI」が運営）。
また、医療や法的アドバイスの領域でも、AIが「最悪のシナリオ」を回避するために一律で過剰なマニュアル対応（「すぐに救急車を呼べ」「法的手段をとれ」など）を助言し、結果として医療リソースの浪費や、本来は対話で解決できたはずの人間関係を悪化させるケースが世界中で報告されている。
次ページが続きます：
【AI活用をめぐる3つの重大論点】
