《今こそ知りたい！》上場間近のAI企業･アンソロピック､設立のきっかけとなった｢オープンAIの内紛｣とは？

2020年夏の終わりごろ、会社は先行するプロジェクトチームであったロボット工学チームを解散させた。スタッフのほとんどはGPTプロジェクトに移り、2人の機械エンジニアが解雇された。マイクロソフトは9月、オープンAIからGPT-3の独占ライセンスを得て、モデルの配布を劇的に加速すると発表した。

オープンAIがそのAPI経由でGPT-3を提供しつづけることに加えて、マイクロソフトがモデルの重みへの完全なアクセスを得たのである。同社のクラウドサービスであるアジュールにおける独自APIの提供など、自社の製品やサービスに、必要に応じてGPT-3を組み込めるようになった。

アルトマンによる安全性派閥への「虐待」

従業員が自宅からリモートでオープンAIの新たな成功を祝うなか、ダリオ・アモデイ、彼の妹であり安全・政策担当副社長になっていたダニエラ・アモデイ、ジャック・クラーク、そしてネストチームの中核メンバーとして働いていたAI安全性研究者の数名が、スラックで突然静かになった。舞台裏では、ダリオを含む複数が個別の取締役会メンバーを相手に、アルトマンの行動に関する懸念について話していた。

アルトマンは、マイクロソフトとの契約とGPT-3のリリースに関するオープンAIの決定のどちらも既成事実にしてしまったが、その際に反対派を操作して、彼らに自分たちにはまだ発言権があると信じ込ませた。気づいたときにはもう手遅れだった。

そのようなアプローチがいつか壊滅的な危機、あるいは人類存亡のリスクを招く恐れがあると信じていただけでなく、それが個人的な痛みを伴うことも、リーダーシップチームの結束を損なうこともわかっていた、と。

アモデイ兄妹はまわりの人々に、アルトマンのやり方はこちらが間違っていると思い込ませようとする「心理的虐待」だと主張した。