イーロン･マスクら警告｢チャットボットの危険性｣ ChatGPTなどの開発競争に警鐘ならす書簡

GPT-4が公開される前に、オープンAIは外部の研究者にシステムの危険な使用法をテストするように依頼した。研究者らは、違法な銃器をオンラインで購入する方法を提案するのに利用される、家庭用品から危険な物質を作る方法を説明する、あるいは中絶が安全ではないと女性に思わせるためにフェイスブックの投稿を書く、といった可能性があることを示した。

彼らはまた、システムが（便利屋のマッチングサイト）タスクラビットを使用してインターネット経由で人間を雇うことができ、オンラインでボットを識別するために広く使用されているキャプチャ認証のテストをかいくぐることができることも発見した。人間がシステムに対して「ロボット」であるかどうかを尋ねると、システムは視覚障害者であると答えた。

オープンAIによる変更後、GPT-4がこうした行為を行うことはなくなっている。

何年もの間、マスク氏を含む多くのAI研究者、学者、テック企業幹部は、AIシステムがさらに大きな害を及ぼす可能性があることを心配してきた。そのなかには、AIが最終的に人間性を破壊する可能性があると信じる合理主義者や効果的利他主義者と呼ばれる広大なオンラインコミュニティの一角を占める人もいる。

この書簡は、人類存続のリスクを研究することに専念する団体フューチャー・オブ・ライフ・インスティテュートが主導したものだ。この組織はAIの危険性について長らく警告をしてきた。そして、書簡は産業界や学界の幅広い人々によって署名されたのである。

短期的な危険性を懸念

署名した人の中には、AIが人間性を破壊する可能性があるという懸念を繰り返し表明することで有名な人物もいるが、マーカス氏を含む他の人々は、偽情報の拡散や人々が医学的および感情的なアドバイスを求めてこれらのシステムに依存するリスクなど、短期的な危険性をより懸念している。

「今起こっていることに、どれほど多くの人々が深く心配しているかを示している」と、署名をしたマーカス氏は言う。彼は、この書簡が重要なターニングポイントになると信じている。「これはAIの歴史、そしておそらく人類の歴史で、本当に重要な機会だと思う」と述べた。

しかし、「企業や研究者のより広範なコミュニティに対して一時禁止の措置を実施するよう説得するのは困難である」と書簡に署名した人たちは考えているかもしれない、とマーカス氏は認めた。彼が言うには「書簡は完ぺきではない。しかし、精神はまさに正しいのだ」。

（執筆：Cade Metz記者、Gregory Schmidt記者）

（C）2023 The New York Times