例えば、医療AI診断は、CTやMRIなどの画像診断において高精度・高感度の検知を実現して、見落とし防止に貢献する一方で、その極めて高い感度ゆえに「重要でない微小病変」まで検知してしまい、過剰診断や医療費増大を招くリスクが専門家から指摘されている。
これらに共通するのは、AIには「言葉の背後にある微細な文脈（グラデーション）」を理解する能力がないにもかかわらず、人間側がAIを「全知の相談相手」として過剰に信頼してしまうという認知の非対称性である。
AI活用をめぐる重大論点
論点の1つ目は、親密圏の消滅に伴う国家権力への直接の要請だ。かつて、家庭や地域社会といった「親密圏（プライベートな領域）」における揉め事には、良くも悪くもグレーゾーンが存在していた。
激しい親子げんかや感情の衝突があっても、親戚の仲裁や、時間の経過による和解、あるいは当事者間でのコミュニケーションの積み重ねによって社会的な破滅を免れる余地があった。
しかし、長女がスマホの画面越しにAIに悩みを吐露した瞬間、その個人的な語りはテック企業が設定した「アルゴリズムのフィルター」にかけられ、瞬時に近代国家の「法執行システム（児童相談所・警察）」へと一足飛びに接続されることになった。
友人や親族など、文脈を理解してくれる他者といった中間的なコミュニティという緩衝地帯が消滅し、個人がAIというインターフェースを介して、国家の強制力（逮捕・司法的介入）へとダイレクトに回収されてしまう構造がここに露わになっている。
2つ目は、「リスクゼロ思想」がもたらす社会の過剰反応である。
ChatGPTなどの生成AIには、開発元（OpenAIなど）によって厳格な「安全性のガードレール」が組み込まれている。AIが「暴力」「虐待」といった危険ワードを検知した際、最悪の事態（児童虐待死など）を防ぐために、最もリスクの低い「公的機関（児相）への相談」が標準的な回答として出力されることが多い。
システムとしては「100%正しい（安全な）回答」といえる。けれども、この「リスクゼロを目指すAIの安全思想」が、現実世界の複雑な人間関係に適用されたとき、結果として「過度の社会的不利益」をもたらすという強烈な皮肉が生じかねない。
次ページが続きます：
【AIを単なる「便利な道具」として使う段階は終わった】
