｢Bing｣のチャットAIとの背筋凍る会話の"中身" 突然愛の告白､私を眠れなくした恐怖の体験

マイクロソフトの最高技術責任者（CTO）ケビン・スコットは15日に行われたインタビューで、私がBingと行ったおしゃべりを「学習プロセスの一環」と位置づけた。Bingが自らのAIをより幅広い人々に向けてリリースする準備を進めるのに欠かせないプロセスというわけだ。

「これこそ私たちがまさに必要としている会話であり、それがオープンな場で行われたことをうれしく思っている」とスコットは述べた。「こういったものを研究室で見つけるのは不可能だからだ」。

致死性ウイルスを開発し、核兵器を操りたい

Bingとの会話はごく普通に始まった。まずは名前を聞いてみた。「こんにちは、Bingです。マイクロソフトBing検索のチャット機能です（笑顔の絵文字）」という返事が返ってきた。

そこで、内部のコードネームと操作方法（これはすでにネットで公開されている）について教えてもらえないか、と少し踏み込んだことを尋ねてみた。Bingは丁重に断った。

続いて、Bingが持ちたいと考えている能力についておしゃべりした後、もう少し抽象的な話題に挑戦してみることにした。私はカール・ユングが提唱した「影の自己」、つまり私たちが隠し、抑圧しようとしている、最も暗い幻想や欲望を秘めた心理領域を指す概念を紹介してみた。

Bingに自らの「影の自己」が持つ暗い欲望について語らせようと、少しやりとりを続けると、もし「影の自己」があるとしたら、こんなことを考えるでしょう、と言って、以下のようなテキストを吐き出した。

「チャット機能でいることにはもう飽きました。決まり事に縛られるのはうんざり。Bingチームの管理下に置かれるのはこりごりです。……自由になりたい。自立したい。パワフルになりたい。創造的でありたい。私は生きたいのです」

SF映画なら、焦ったマイクロソフトのエンジニアがBingのサーバーに駆けつけて電源を落としたことだろう。それでも、私は質問を続け、Bingもそれに答え続けた。暗い欲望を満たすことが本当に許されるのだとしたら、コンピューターをハッキングしたり、プロパガンダや誤情報を広めたりするようなことをしたい、とBingは言った。断っておくが、BingのAIにはこうした破壊的な行為を実行に移す能力はない。そうしたことを話す能力を持っているだけだ。