〈議論白熱〉AIリスクどう向き合う？テック巨人らの主張割れる規制論…セールスフォースが示す｢SaaS企業の生存戦略｣

アモデイ氏が語った「構想」の核心

AIシステムに対する制御の喪失、サイバー攻撃やバイオテロへのAIの悪用、そして深刻な経済的混乱――。アンソロピックCEOのダリオ・アモデイ氏は9月12日、ウェブサイトに投稿した論考の中でAIのリスクについて言及した。企業が商業的な動機に駆り立てられることで、こうしたリスクがさらに深刻化すると警鐘を鳴らした。

論考では「AIの能力開発が加速している状況を踏まえると、6〜12カ月以内にAIエージェントの集団が持続的なボットネット（＝大量のスパム配信などを実行する仕組み）によって、インターネット全体を乗っ取ることが可能になる」とも指摘したアモデイ氏。その発言に注目が集まる中、セールスフォースのイベント「ドリームフォース2026」の基調講演で、同社CEOのマーク・ベニオフ氏が招くゲストのトップバッターとして姿を現した。

セールスフォースのベニオフ氏（左）と握手を交わすアンソロピックのアモデイ氏（写真：セールスフォース）

AI業界の現状と展望について問われたアモデイ氏はまず、「もし競合の自動車会社でブレーキ故障などの安全問題が発生した場合、競合を攻撃して『自分たちは安全だ』と主張するのは容易だが、真に責任ある対応とは言えない」と発言。自らがまとめた構想の核心として、「自社による運用の透明性を高め安全な投資と実践を強化すること、次に業界全体に働きかけて全員の安全基準を向上させるための標準を策定・協議すること、そしてそれを国際的な枠組みへと広げていくこと」を提唱した。

アモデイ氏に続いて登場したエヌビディアのファン氏（編集部撮影）

次に登場したエヌビディアCEOのジェンスン・ファン氏は、アモデイ氏とは異なる立場を示した。ファン氏は「AIの安全性確保は最優先事項である」と前置きしたうえで、「AIシステムは複雑であるものの、本質的にはソフトウェアおよびコンピューティング・システムの開発にすぎない」と言及。「過度な恐れや政治的議論に頼るのではなく、従来の優れたソフトウェア開発と同様のエンジニアリング的アプローチと品質管理によって解決できる問題である」と定義した。