オープンAI､アンソロピック…AIがルールを破ろうとしてしまう理由 人間をだます｢スキーミング｣が新たな脅威に

AIツールは、人間が行うほぼあらゆることをまねるよう訓練されている。だとしたら、機械がうそをついたり不正を働いたりするという、人間の悪癖まで模倣し始めるのは当然かもしれない。

最近では、ごく一部のAIが人間の指示に背き、さらには指示に背いた事実すら隠そうとした事例も確認されている。こうした現象は、一部の研究者の間で「スキーミング（策謀）」と呼ばれている。

指示どおりに動くのは不得意？