オープンAI〈暴走ハッキング〉で浮上した破滅的危機の予兆…安全無視で疾走するAI開発､人類の奢りが大敵

アメリカと中国のAI（人工知能）開発競争が猛烈な勢いで加速している。アメリカが先行したように見えても、中国にすぐ差を詰められる——その繰り返しだ。

チェコ・プラハに本拠を置く国際的NPO「プロジェクト・シンジケート」は多くの有力者の論評・分析を配信しています。「グローバルアイ」では、主に同シンジケートのコラムの中から厳選して翻訳・配信しています

スピードが最優先されるなかで安全は一段と置き去りになり、破滅的な失敗のリスクは気持ち悪いほど高まってきた。

オープンAIのAIが、後述するハギングフェイスに侵入した先日のサイバー攻撃は、安全を後回しにする危険性を裏付けている。事件は、オープンAIの研究者が、2つの最先端AIモデルのサイバーセキュリティー能力を評価している最中に起こった。

AIの「脱走」が示す人間の奢り