｢超知能AIが人類を滅ぼす｣オープンAI設立の裏に隠されたアルトマンとマスクの"終末思想"とは？

マスクの推薦図書リストには『スーパーインテリジェンス 超絶AIと人類の命運』がある。
同書を通じて、オックスフォード大学の哲学者ニック・ボストロムが、AIが人間よりかしこくなれば、制御が難しくなり、人類の存在を脅かす大惨事を引き起こす可能性があると論じている。

ボストロムが示したAIの脅威の解決策

ペーパークリップをつくるという単純な目標を与えられた場合、この優れたAIが、ペーパークリップの生産に必要なリソースを奪う人間を、みずからの目標に対する脅威と見なす可能性があると主張し、ボストロムは次の解決策を提案した。

AIを人間の価値観に「アライメント」つまり合致させることで、超知能の制御問題を回避する、要するに、明示的な指示を超えて推論する能力をAIに与えることで、人間に害することなく目標を達成できるようにするのである。

のちにこの考えが基礎となってAIアライメントという研究分野が確立し、オープンAIから支持されることになる。
ツイッターを通じて、マスクは自分をフォローするたくさんの人々に向けて、「読む価値がある」と、この本を勧めた。