OpenAI騒動が示す｢人類がAIと戦っている｣現実 効果的利他主義者が去った後､何が起こるのか

中でもAIが火急の課題とされ、AI研究者や開発者の中には、効果的利他主義を安全なAI開発の基礎と捉える人々も多い。OpenAIの創設をバックアップしたマスクやティールも、少なくとも当初はその信奉者だった。

しかし、OpenAIの理事会メンバーのそうした信条は、営利目的の組織に集まってきた800人規模の社員の中では化石のようなものだった。アルトマンが解雇後に一時マイクロソフトへ移籍するとされた際、社員のうち700人が追従すると報じられたが、それはアルトマンへの支持や理事会メンバーに対する反抗というより、OpenAIが当初とは全く異なった組織になってしまっていたことの証左と言える。

「効果的加速主義」が牛耳り始めた？

アルトマンが返り咲き、上述3人の理事会メンバーが交替した今、OpenAIは何に沿ってAI開発を進めるのか。OpenAIのホームページには、依然として「全人類のために」云々の文言が見られるが、その具体的な方法は不明だ。

外部からは、効果的利他主義者が一掃され、代わって「効果的加速主義」が牛耳り始めたのではないかとも見られている。

効果的加速主義とは、テクノロジーの開発は足枷をはめることなく推進されるべきで、そうしてこそ結果的に複雑なシステムが出来上がると信じるものだ。AIについて言えば、安全性への懸念や規制は不要で、行けるところまで突っ走れというアプローチと受け取られる。究極的には、人類がAIにとって代わられても構わないという危険思想だと見る専門家もいる。

効果的加速主義は、いわば効果的利他主義への対抗路線として生まれてきたのだが、一方効果的利他主義が完全に「善」だったわけでもない。この場合の利他主義の嘘っぽさもさることながら、白人男性が中心の運動であることや、ビリオネアたちのエリートコミュニティーがサポートしたものであること、現在ではまるでカルトのような閉鎖性も見受けられるなど、さまざまな欠点が指摘されている。

最大の資金援助者だった暗号通貨取引所FTX創設者のサム・バンクマン＝フリードが詐欺罪で有罪になったことも、効果的利他主義への信頼を失墜させている。