AIは今後｢ドラえもん型｣を開発すべき納得の根拠 きちんと認識すべき｢生成AIの本質｣とその怖さ

「ドラえもん型」と「道具」の違いは、自律性・能動性があるかどうかです。そして、自律性を持つAIには自ら能動的に動作するための動機・目的が埋め込まれていることが必要です。目的というか、いわば「考えるためのタネ」です。もちろん僕らがそのタネを与えます。

例えば、「多様性を育むような情報を提供して」とか、「相手のことをきちんと考えて行動して」といったことを、それこそ憲法のようにAIの目的として組み込んでおくのです。そうすれば、その“ドラえもん”のような自律型AIは、膨大な情報の中から不要な情報を除去したうえで、今はどんな情報を与えればいいかを考えてくれます。それは必ずしもその人が好む情報ではないかもしれません。

これは、親が子どもに向き合うときと同じ態度・目線です。例えば「暑いときにジュースばかり飲んだら体によくないから、今は我慢させよう」と考えるのと同じように、現時点の道具である生成AIにおいてもそのような機能を拡張したい僕は思っています。

ドラえもんがイヤな情報を提示できる理由

山本：まさに「情報的健康」（編集部註：東京大学・鳥海不二夫教授と、山本龍彦氏が共同で提言した「デジタル・ダイエット宣言」内で言及されている、日常の情報摂取を食事に例えた概念）の話ですよね。

栗原：まったくそのとおりです。ただこの課題は、ではそれをどう解決するか、というところで議論が止まってしまうことです。今の道具（生成AI）だと正直解決は難しい。もちろん情報にさまざまなメタデータを付けてもいいのですが、今度はそれを誰がどうやって使って情報のフィルタリングをするのかという問題が出てくる。

山本：そうですね。

栗原：それに、イヤな情報、つまり個人にとって好ましいものではない情報が次々に提示されるようになったら、もうそのような生成AIは使われなくなってしまいますし。

ではなぜドラえもんはのび太にとってイヤな情報を提示できるのでしょう？ それは、のび太がドラえもんを心から信頼しているからです。