オバマ氏は「ほんの1年前までは、モデルの学習内容の90%は人間から与えられたもので、（AIが）自力で隙間を埋めたり物事を解明したりする（再帰的学習の）部分はせいぜい5〜10%程度だった」と説明した。しかしいまや、AI企業のトップが自ら開発を減速するための枠組みが必要だと言い出している状況であり、それは「AIの学習の軌跡がこれまでのような緩やかなものから、いわゆる『ホッケースティック曲線（急激な右肩上がりのグラフ）』のような急上昇の段階に入ったということ」だと指摘した。そして今後「AIモデルはこれまでとは比較にならないほどの速さで、指数関数的に賢く、そして優れたものへと進化していくことになる」と主張した。
さらにオバマ氏は「AIモデルが『やりたいこと』と人間が『やってほしいこと』との間に不整合（アライメントの欠如）が生じたときにこそ、（たとえAIが暴走していなくても）予期せぬ形で大きな危険を招く可能性があるとし、その起こりうる例として、たとえば誰かが「投資収益を最大化せよ」とAIに指示したとき、ある株を空売りして利益を出すために電力網をハッキングして大停電を引き起こすといった行動を取る可能性を示した。
そして、AI企業に対して社会が必要としていることと、AI企業が直面している商業的な要請（企業価値を示すということ）との間に「不整合」が生じているとし、「だからこそ、有能な政府がこの問題について超党派で真剣な議論を行うことが極めて重要であり、有権者の皆さんにも、ぜひこの点に注目していただきたい」と述べた。
AI開発のペース調整は実現できるのか
ドナルド・トランプ米大統領は、アモデイ氏がAI開発の減速を訴えた翌日の9月13日、アイルランドで開催されたゴルフイベントの会場で、記者団の質問に答え、アメリカは「世界で最も高度な技術力を持つ国」だと述べ「AIを制する者こそ勝者であり、その優位性を維持したい」と語った。こうした発言は、AIをめぐる米中競争でアメリカの優位を維持することを重視する姿勢を示したものと受け止められている。
大統領はさらに、「安全のためのガードレール（規制）を設けることもできるし、あれこれと対策を講じることもできる。だが本来なら取り上げる必要もない人々が、否定的な側面ばかりを強調して問題を提起しているように思う」とも述べた。
9日23日には、国連安全保障理事会でアモデイ氏とアルトマン氏がAIに関するブリーフィングを行い、AIリスク管理における国際協調の必要性を訴えた。しかしその同日、トランプ大統領は国連総会の一般討論演説で、AIの監視を強化しようとする動きを「世界主義者による企み（globalist scheme）」と呼び、自国のAI開発を妨げる規制に反対する姿勢を改めて示した。
大手AI関連企業のトップのなかにも、AI開発を減速する必要はないとの立場をとる人物はいる。NVIDIAのジェンスン・フアンCEOは、AI開発を止める新しい法律・規制は必要ないとの立場を示し、各企業が安全だと判断した段階で製品を出せばよいとの持論を述べている。さらにMetaのマーク・ザッカーバーグCEOも「各AI企業には安全性を確保するインセンティブがすでに存在している」ため、各企業がそれぞれ適切な開発ペースを判断できると主張している。
一方で、マイクロソフトのサティア・ナデラCEOは、AI開発の「意図的な調整」や、「第三者機関による組み込み型の監視」、さらに「人間による管理」については肯定的な姿勢でありつつ「AI業界の一握りの企業だけでルールを決めるべきではない」とし、AI業界に加えて、企業、各国政府、大学などが幅広く参加して議論すべきとの考えを示している。
※ログイン後、コメント入力が可能です。