｢SaaSの死｣という声も…。急速に進化するAIがここにきて衝撃を与えているワケ

こうした一連の動きの中で注目すべきなのは、AIは人間にとって敵になるのか、味方になるのかという点だ。今回のショックを演出したアンソロピックのダリオ・アモデイCEOは、自身のブログで、現世代のAIが次世代AIの開発を自律的に進める段階が「1〜2年先かもしれない」としつつ、透明性立法など規制の必要性にも言及している。

また、アンソロピックではAIがコードの多くを書いており、それが次世代AIの開発を加速させるフィードバックループになっていると述べている。

AIが自律的に動き始めたときのリスク

AIがより自律的に動くようになれば、サイバー攻撃や兵器転用などを含むリスクも増大しうる。規制やガバナンスをどう設計するか、巨大化するAI企業と政府の関係をどう監督するかといった論点は、いまも国際的に議論が続いている。実際に、アメリカ国防総省のピート・ヘグセス長官は2月24日に27日までに同社のAIモデルの安全装置を解除して軍事転用できるように求めている。

そもそも、これまでの産業革命は人間がより発展するためのツールの発明だった。しかし今回のAI革命は、機械が人間の仕事を置き換える速度と範囲が大きくなりうる、という点で不安も強い。今回の一連の動きが提示した警告は、人類全体に対する警告なのかもしれない。

著者フォローすると、岩崎 博充さんの最新記事をメールでお知らせします。