AIは今後｢ドラえもん型｣を開発すべき納得の根拠 きちんと認識すべき｢生成AIの本質｣とその怖さ

「道具」であれば、100％言われたとおり動かなければ僕らは信頼しませんが、この信頼は制御可能性に対する信頼です。これに対して、子供は「イヤなこと」も言うけれど自分の親を信頼しています。それは「親が決して自分から搾取しているのではなく、回り回って自分のためにしていることなんだ」ということを理解しているからです。

そういう意味で、僕らが本当に「信頼」できる人工知能が登場すれば、「その信頼できる人工知能が言ってくるんだから、その情報も我慢しよう。ちょっとイヤだけど聞こうか」となると思います。そしてそれは「道具型」の人工知能ではできないことなのです。

山本：情報的健康というプロジェクトの1つの具体的実装として、そのようなAIをつくっていくことが考えられますが、今のビジネス構造の中だとなかなか難しいですよね。

自分が好む情報、要するにアイスクリームが食べたければアイスクリームをレコメンドしてくれるような仕組みのほうが結局エンゲージメントは高まるし、アテンションを得られます。

現状のビジネス、つまりアテンション・エコノミーのビジネス構造の中だと、どうしてもそちらに流れていってしまうのではないか。「中長期的に見れば、あなたにとって利益になる」という情報提供のあり方をビジネスモデルとしてどう成り立たせるのか。私はそのためには、社会的規範を醸成していくことが重要だと考えています。

情報摂取行動についても社会的規範を醸成する

山本：昔は「肉ばかり食べていてもいい」と思われていたのが、「野菜もバランスよく食べよう」と考えられるようになってきた。しかし、本人の“欲望”としては肉を食べたいわけですから、それは短期的には自己利益に反するわけですね。

でもわれわれの多くは、食育などのリテラシー教育もあって、その“欲望”を抑えてバランスよく食べよう、となってきた。こうした社会的規範を情報摂取行動についても醸成していかなければならないと思うんです。そうすれば、ビジネス構造も変わるかもしれない。

ユーザーの欲を刺激して情報を“偏食”させるアルゴリズムをつくっている企業は信頼を失い、市場でも批判されていく。逆に、「ドラえもん型」で、ユーザーの情報的健康を考えて多様な情報を提供する企業は信頼を得て、市場で優位に立つようになる。