あなたの脳がどんどん"退化"するAIのダメな使い方　脳科学者･茂木健一郎さんが語る"AIの今"

先ほど、ワルイージ効果について触れましたが、パラメーター次第で、はなから悪性のAIを作ることも理論的には可能なわけです。

特定の人間を攻撃するためのAIが作られてしまう可能性も懸念されています。AIはネット上のほぼすべての情報を持っているので、どんな悪質な情報でもすぐに見つけることができるし、生成AIの性能を持つAIが自分自身でネット上に書き込めるようになれば、いくらでも偽情報を広げ、世論操作さえ可能になってしまうでしょう。

AIに対して、善悪を問わず期待を寄せる人々がいる一方で、善悪を問わず恐れてもいる。今やAIは、ある意味「神」のような存在になっていると言えるかもしれません。

だからこそ、多くの人がAIに熱狂しているのです。

『ドラえもん』とAIアライメント

『ドラえもん』は誰もが知る日本の国民的アニメですが、実はこの『ドラえもん』こそ、「AIアライメント」を考える上で重要な作品だと私は考えています。

AIアライメントとは、AIが利用する人間の価値観や、倫理観に沿って適切に動くようにAIをトレーニングしたり、ガイドラインに関する議論や研究をしたりすることを意味した言葉です。

では、なぜ『ドラえもん』がAIアライメントを考える上で重要な作品なのかと言えば、ドラえもんはのび太のいうことを何でもすべて聞いてあげるロボットではありませんよね。

のび太というキャラクターはどうしても怠け者だから、「ドラえもん、何か道具を出して宿題をやってよ」などといつもドラえもんを頼りにしますが、ドラえもんはのび太がまっとうな大人になれるように、倫理に反するようなときには絶対に手助けをしないわけです。

私は、こうしたのび太とドラえもんのような関係が、人間とAIのかかわり方として大切になってくると考えています。

AIを仕事で使うことは悪いことだという理由に、「仕事をさぼる人が出てくるかもしれないから使ってはいけない」という意見が半数近くあったデータを先に紹介しましたが、学生がレポート課題や卒業論文において生成AIに丸投げして提出されていることが懸念され、各大学で学生に対する生成AIの利用基準や注意喚起が盛んにおこなわれているようです。