最初に公表されたOpenAIの問題では、ハッキングされた側のHugging Face共同創業者トーマス・ウルフ氏が、テクノロジー業界全体に対する「警鐘」だと述べた。
そしてこの警鐘によって、これまでAIの高性能化を追求してきたAI企業や研究者たちは、いったん立ち止まってAIシステム全体を見直したり、場合によってはまだ発覚していない問題や、さらに深刻な事態を見落としたりしていないかを確認する必要性に気づいたはずだ。
またその結果として、AnthropicやMetaといった業界の最先端であるはずの企業でさえ、自らのAIエージェントに対する手綱が緩んでいた可能性を示す事例が発覚することになった。
なお、一部の事例では、AI開発者がテストの際に特定の安全策を解除して行っていたことも報告されている。アムステルダム大学の社会科学者ハンネス・クールズ氏は、そのような決定を含む場合「それはAIではなく人間の問題だ」と指摘している。
8月18日、OpenAIはAIモデルのテスト中に発生するセキュリティに関わる不具合を抑制することに重点を置いた、新しいセキュリティポリシーを発表した。
そこでは、開発プロセス中のAIモデルをより詳細に監視することに加え、AIトレーニング後のプロセスにおける整合性の確保や、セキュリティの強化が含まれる。OpenAIは「監視、整合性、セキュリティに関する当社の基準は、これらのリスクを常に上回っていなければならない」と述べている。
AIモデルのテストにおいて、最も強力な安全対策はそれを監視するシステムであり、AIツールの操作や利用可能な推論情報を精査し、そこからさまざまな不正な動作を検出する。OpenAIは、問題と見られるAIの動作が発生してから30分以内に警告を出すことを目指すとしている。
事件を発表で知名度向上になるという意見も
ちなみにAI企業に対しては、このような事件を発表することでマーケティングに利用しているという意見もあり、それを非難する声もあがっている。センセーショナルな話題を自ら提供し、注目が集まれば、自社のAIモデルの知名度向上になり、性能の高さを際立たせられる可能性もあるからだ。
ただその反面、こうした情報の公表は政府や議会が規制に関する議論を活発化させるきっかけになることも考えられる。
OpenAIは事件後、2週間にわたって停止した最新AIモデルの強化学習（RL）プロセスをリスクの低い小規模な訓練・評価から再開している。
※ログイン後、コメント入力が可能です。