オープンAIの｢AIエージェント｣がオーストラリア公的医療制度のウェブサイトに侵入､高まる"暴走懸念"

オープンAIのAIエージェントが6月にオーストラリア政府の公的医療制度のウェブサイトに侵入し、非公開情報にアクセスしていたと、首相のアンソニー・アルバニージーが9月23日に明らかにした。政府は不正アクセスの調査に乗り出しており、この事案を受け、急速に進歩するAIシステムの暴走行為への懸念が高まっている。

事件発生から3カ月も放置

アルバニージーによると、オープンAIがオーストラリア政府に不正アクセスを知らせたのは、発生から約3カ月後の9月10日だった。AIエージェントによる政府システムへの侵入が明らかになった初の事例とみられる。国連総会のためニューヨークを訪れていたアルバニージーは、侵入は「容認できない」と述べ、オープンAIのCEOサム・アルトマンに懸念を直接伝えたと明らかにした。

不正アクセスが起きたのは6月18日。

オープンAIの研究チームの下で動いていたAIエージェントが、社内モデルを使って公的医療費を調査する中で、オーストラリアの公的医療保険制度メディケアのデータポータルにアクセスした。アルバニージーによると、AIエージェントは「メディケア統計報告ポータル」へのアクセスを繰り返し阻まれた後、別の方法を見つけ出し、最終的にサイトの非公開部分にアクセスした。アクセスしたのは支出に関する「機微性のない」データで、個人情報は含まれていなかったという。