ここで特に想定されているのは、アメリカなどの民主主義国に拠点を置く主要AI企業だ。アモデイ氏は、「共通の安全基準」や「無制限なAIの進歩のペースに対する制限」について連携するよう呼びかけている。
現段階では、AI企業はこのような共通ルールの策定は難しいと考えている。なぜなら、企業側が連携して開発のペースを調節することに、独占禁止法上の懸念（カルテルにあたる可能性）があるからだ。
アモデイ氏はその懸念を回避し、実現のためには、業界に統一的な安全基準を定めることができる政府機関による仲介や議論を可能とし、限定的な免責措置を講じることが必要だとした。
最後の第3段階は、世界的な連携に規制の取り組みを拡げていくこととなる。そのためには、アメリカとその同盟国が「可能な範囲で権威主義的政府とも連携を試みるべきだ」とした。権威主義的政府というのは、具体的には中国政府のことだ。アモデイ氏は「達成できることには厳しい限界がある」と認めつつ、AIを使用して生物兵器の開発や製造をすることなど、「特定の限定的かつ明らかに危険なAI利用の禁止」といったことだけでも合意すべき余地があるとした。
こうしたアモデイ氏の主張には、懐疑的な見方もある。同氏は以前よりAIによる破滅的な事態が起こることを想定した発言をしてきたが、ジャーナリストのブライアン・マーチャント氏などは「AIが自己再帰的に能力を向上させる段階から、地球上の全人類を殺害する段階へと具体的にどう移行するのか、その信頼できる詳細なプロセスを示した文書はまだ見たことがない」と述べ、このような提案は「結局のところAnthropicやOpenAIらが得をする結果にしかならないだろう」、それこそがいわゆる「規制の虜（regulatory capture）」に当たるのではないかと批判している
一方で、アモデイ氏の提案、特に第2段階の提案に対して、OpenAIのサム・アルトマンCEOやGoogle DeepMindの共同創業者であるデミス・ハサビス氏、xAIのイーロン・マスク氏らは、肯定的な見解を示した。
アルトマン氏は、この提案を「良いアイデア」と評価した。独立した第三者評価機関を導入する考えにも賛同し「独立した評価者を（継続的に）受け入れるという方針は素晴らしいアイデアであり、我々も同様の措置を講じるつもりだ」と述べている。
さらに「ペースの調整」はAIモデル開発の『停止』を意味するわけではなないとしつつ、「進歩は急速であり、今後もその傾向は続く」「ペース調整には、そのコストを支払うだけの価値が十分にある」とする一方、「アメリカ内での競争上の圧力があったとしても、AIエージェントの無謀な行動が正当化されることはないうえ、企業によるアライメント（AIモデルの意図整合性：行動や出力を、人間の意図、価値観、倫理観に一致させるための技術や研究）や、監視体制の整備が追いつかないまま能力だけが先行するような事態になることがあってはならない」と述べた。
ちなみにOpenAIは、9月6日に発表した「研究の加速：OpenAI 社内の実態」と題したブログ記事のなかで、「（AIの）能力の向上に合わせて、アラインメントと安全対策を拡大・強化することに取り組んでいる」としつつ「システムの性能が高まるほど、監視が難しくなる可能性がある」とし、「アライメントが確保された完全なRSI（再帰的自己改善）に、安全に到達する方法はまだ分かっていない」と述べている。
オバマ元大統領は「国民を巻き込んだ議論」が必要と述べる
9月上旬に開かれた民主党のイベントでは、バラク・オバマ元大統領がAIを「主要な政策課題」のひとつに据え、AIがもたらす経済的影響や安全性への懸念に対処するための「極めて明確な計画」を策定する必要があると述べた。
オバマ氏は「AIは民間主導で急速に進化している分野であり、適切に管理・制御できなければ危険なものになりかねない」。「しかし、適切に対処できれば有益なものにもなりうる。例えば、病気の治療につながるような創薬の加速など、真に有益な進歩をもたらすと私は考えている」とした。
オバマ氏はさらに、9月18日にコルゲート大学で行われた同大学学長のブライアン・ケイシー氏との対談でも、AIモデルの開発が進んで「再帰的学習（recursive learning）」がある程度可能な段階に到達していることを指摘した。再帰的学習とは、AIが人間から与えられた情報だけに依存せず、自ら学習材料や解答を生み出しながら能力を高めていく現象を意味する。
※ログイン後、コメント入力が可能です。