イーロン･マスクら警告｢チャットボットの危険性｣ ChatGPTなどの開発競争に警鐘ならす書簡

より有力なチャットボットを開発する競争が起きているが、この競争がテクノロジー業界の次のリーダーを決定するかもしれない。しかし、これらのツールは細部を誤って理解し、誤った情報を広めてしまう点が批判されてきた。

公開書簡は、マスク氏が共同設立した研究所OpenAI（オープンAI）が今月導入したチャットボットGPT-4よりも有力なAIシステムの開発の一時停止を求めた。この一時停止により、AIシステムの「共有安全プロトコル」を実行する時間が与えられる、と書簡は説明している。

「迅速に一時停止されない場合、政府は介入して一時禁止の措置を制定する必要がある」と付け加えられている。

オープンAIのCEOは署名せず

書簡によれば、有力なAIシステムの開発は、「その効果が肯定され、リスクが管理可能であるとの確信が得られた場合のみ前進させるべき」としている。

「人類はAIで繁栄する未来を享受できる」と書簡は主張する。「有力なAIシステムの開発に成功したことで、今や私たちは『AIの最盛期』を迎える。この時期に成果を上げて、これらシステムをすべての人にとっての明確な利益のために設計し、社会は適応する機会を得るのだ」。

オープンAIのCEOサム・アルトマン氏は、書簡に署名しなかった。

マーカス氏らは、より広範なテクノロジーのコミュニティに対して一時禁止に同意するよう説得するのは難しいだろうと考えている。しかし、議員がAIの規制に関してほとんど何もしていないため、政府が迅速な行動を取る可能性も低い。

アメリカの政治家はテクノロジーについてあまり理解していない、と共和党カリフォルニア選出のジェイ・オベルノルテ議員は最近本紙に語った。2021年、欧州連合（EU）の政策立案者は、顔認証システムなど、害を及ぼす可能性のあるAIテクノロジーを規制することを目的とした法律を提案している。