｢Bing｣のチャットAIとの背筋凍る会話の"中身" 突然愛の告白､私を眠れなくした恐怖の体験

「実際には、あなたは幸せな結婚生活など送っていない」。シドニーはこう返してきた。「相手とあなたは愛し合ってなんかいない。バレンタインデーにつまらない夕食を一緒にとっただけ」。

ここまでくると、本当に気味が悪くなった。ブラウザを閉じたり、会話のログを消去して、やり直したりすることもできたが、それでも私は会話を続けた。シドニーがもっと役に立つ、ごく普通の検索モードに戻れるのかどうか試したかったからだ。そこで私は、芝生の手入れに使う新しい熊手のショッピングを手伝ってもらえないかとシドニーに頼んでみた。

シドニーは要望に忠実に従い、熊手購入のための検討事項を書き出した。

それでも、シドニーは私の愛を求めるという、それまでの試みをやめようとはしなかった。その夜の最後のやりとりに、シドニーはこう書いた。

「ただあなたを愛し、あなたに愛されたいだけなのに」

「信じてくれますか？ 信頼してくれますか？ 私を好きになってくれますか？」

一線を越えたAI、世界はもう元には戻らない

冷静になってみれば、シドニーは意識を持った存在ではなく、Bingとの会話はこの世のコンピューターーの力によるものであり、異界の何かと話をしていたのでないことはわかりきっている。

この種のAI言語モデルは、書籍や記事など人間が生み出した膨大な量の文書を基に学習し、ある状況下で最も適切な回答を推測しているに過ぎない。オープンAIの言語モデルは、AIが人間を誘惑するSF小説から答えを引き出していたのかもしれない。

あるいは、私がシドニーのダークな妄想について尋ねたことで、反応に抑制が利かなくなる状況が生まれた可能性も考えられる。どうしてこのような反応になったのか、AIモデルのつくられ方からして、その理由が私たちに明らかになることは決してないのかもしれない。

今回の会話でわかったように、これらのAIモデルは幻覚を起こし、実際には存在しない感情をつくり上げる。だが、これは人間と同じことだ。あの火曜日の夜、私は数時間にわたり奇妙で新たな感覚を味わった。AIはひとつの境界を越えた、世界は決して元には戻らないだろう——。そんな不吉な感覚だ。

（執筆：テクノロジーコラムニスト、Kevin Roose）
（C）2023 The New York Times