ChatGPTと違う？｢GPT-4｣使ってみたリアルな感想 まさにエキサイティングだが怖い存在でもある

ブロックマン氏はノートに鉛筆で描いたウェブサイトの下絵を写真に撮った。その写真をGPT-4に送り込み、HTMLとJavaScriptを使って実際に動くウェブサイトを構築するように指示した。数秒後、GPT-4は画像をスキャンし、その内容をテキスト命令に変え、それらのテキスト命令を実用的なコンピューターコードに変え、ボタンも動作するウェブサイトを構築したのだ。

私たちはGPT-4に興奮するべきか、それとも怖がるべきか？正解は、その両方かもしれない。

GPT-4は創造性のための強力なエンジンであり、科学、文化、教育の新たな創造を可能にするかもしれない。AIが科学者の新薬開発、プログラマーの生産性向上、ある種のがんの発見に役立つことは、すでに知られている。

GPT-4とその同族サービスは、それらすべてを加速させる可能性がある。オープンAIはすでに、「Khan Academy（カーン・アカデミー／GPT-4を使って学生向けのAI講師を作成）」や「Be My Eyes（ビー・マイ・アイズ／目の不自由な人が世界を移動するための技術を作る会社）」などの組織と提携している。そして、開発者がGPT-4を自分のアプリに組み込めるようになったことで、私たちが使っているソフトウェアの多くが、より賢く、より高性能になる日も近いかもしれない。

GPT-4を恐るべき理由

これは楽観的なケースだ。しかし、GPT-4を恐れるべき理由もある。

現在のところ、GPT-4はそれほど危険なものには見えないかもしれない。しかし、それはオープンAIが何カ月もかけて、そのリスクを理解し、軽減しようとしてきたことが大きい。もし彼らのテストが、危険な行動の出現を見逃したらどうなるのだろう？あるいは、この発表がきっかけで、別の、そしてより良心的でないAI研究所が、ガードレールの少ない言語モデルの市場投入を急がせてしまったら？

今週オープンAIが公開した文書には、GPT-4ができること、より正確には、オープンAIが制止する前にしていたことの、いくつかの恐ろしい例が掲載されている。「GPT-4システムカード」と題されたこの文書には、テスターがGPT-4に危険なことや怪しげなことをさせようとした方法がいくつか書かれており、それはしばしば成功している。