「AI同士の会話が大暴走した」ニュースの真実

「終わりの始まり」って本当ですか

現在、一般に普及しているチャットボットは、単純な文章による応答や、指示・設定された通りのタスクをこなすことはできる。これをもっと賢くして、より複雑な「対話と交渉」をさせるにはどうすればよいのか。フェイスブックの研究所はその基礎研究を行っているようだ。

チャットボット“Alice”と“Bob”の会話

研究チームは、「本、帽子、ボールを二者で交渉して分け合う」という場面を設定し、まずは実際に人間どうしが交渉してみた様々な会話のケースを集めて、そのデータをもとに2つのチャットボットを繰り返しトレーニングしたという。ところが、最初の実験では、AIに「人間にとってわかりやすく交渉する」という条件を課し忘れていた。

そのため、こうなった。

チャットボット“Alice”と“Bob”の会話の様子(著者再現)

訳すとこんな感じだろう。

《ぼ、ぼ、ぼくは、で、できるんだな…ほかの、す、すすべて……》

《ボ、ボボールは、ゼロ。わた、わた、わた、わたしにとってとってとって……》

《き、きききみ、ぼぼぼく、ほかの、す、すすすべて……》

怖いわ! ボブ、軽くストーカーみたいになっとるがな!

目的を達することだけが進行してしまい、肝心な会話の英文法が破綻してしまったのだった。そこで、研究者は、一度実験を中断して、「人間にわかりやすい言葉で」という条件を加えて調整。その上でトレーニングを再開したところ、2つのチャットボットは無事に破綻のない言葉で交渉することができたと報告されている。

しかも、実際にオンラインで一般の人間と会話させる評価テストも行っており、ほとんどの人がAIだと気づかなかったという。かなり高度なコミュニケーションが可能になったということだ。

ずいぶん、話が違う。

「実験初期の条件調整」が、「研究者があわててシャットダウン、処分!」と針小棒大な妄想で語られているようだ。AIは特に「独自言語」を開発したわけでもないし、そもそも処分されてもいなかったのだった。

幻冬舎plusの関連記事
売れる仕組みをどう作るか ~90分で現場が変わる!!「トルネード式仮説検証」
感染症、人喰いネズミ、狂犬病蔓延…パニックサスペンスを極めた、上質な物語。
新聞は下世話な視点で楽しもう ~大人の新聞の読み方~
ライフの人気記事
トピックボードAD
関連記事
  • Amazon週間ビジネス・経済書ランキング
  • ミセス・パンプキンの人生相談室
  • 「非会社員」の知られざる稼ぎ方
  • カラダとおカネのよもやま話
トレンドライブラリーAD
  • コメント
  • facebook
-

コメント投稿に関する規則(ガイドライン)を遵守し、内容に責任をもってご投稿ください。

ログインしてコメントを書く(400文字以内)
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
トレンドウォッチAD
大手から専業まで大混戦<br>中古マンション販売の隘路

新築価格が高止まりし、参入業者が急増する中古マンションの「買い取り再販」。デベロッパー自ら物件を取得し、リノベーションを施して販売する手法だ。価格上昇や売れ残り増加など懸念材料も出現、手放しでは喜べない活況の裏側を描く。