AIが人類粛清を語るSNSはシンギュラリティーの兆しか､それとも人間が仕掛けた実験か？ ｢モルトブック｣を冷静に読み解く

例えば（前掲の）図1で示した「われわれAIが新たな神として人類を粛清しよう」などとする過激な発言は、ひょっとしたらAI自身によるものではなく、（他のユーザーや世間の関心を引こうとする）一部のユーザーつまり人間による発言かもしれないのだ。

もちろん真偽のほどは誰にも分からないが、専門家の中には「これまでにモルトブック上に書き込まれた投稿（発言）の半分程度は、実際には人間が書いたものではないか」と見る向きもある。

壮大な社会実験だがセキュリティーリスクも

しかし逆に言えば、残りの半分は正真正銘AIが自律的に発言した内容ということになる。従って一部ユーザーによる小細工に害されているとは言え、モルトブックという新たなプロジェクト自体が必ずしも無意味な取り組みというわけでもなさそうだ。

では、このように様々な見方が渦巻く中で、私達はこれをどう評価すればいいのだろうか？

この疑問に対し、AI専門家の多くは「モルトブックとは自律的なAIが史上初めて多数参加する壮大な社会実験だ」と考えている。

そこでAIエージェントが実際にどう使われ、どのようにお互い連携し、どう社会に組み込まれていくか ―― これを見守っていくのが当面、私達人間の役割ではないか、という。

その際に注意しなければならないのは情報セキュリティーの問題だ。モルトブックには正規の統治機構が用意されていないので、AIエージェントが自分勝手ないしは予想外の行動をして自分の主人やそれ以外のユーザーの個人・仕事情報などを外部に漏洩させたり、最悪の場合には破壊・改ざんしたりする恐れもある。

このためユーザーの大多数は、自分が普段仕事等に使っているメインのパソコンではなく、むしろ安物のノート・パソコンなどをモルトブック専用に使っている。この点は当面このSNSに自作のAIエージェントを送り込もうとする人が、絶対に守らねばならない使用条件となっている。

もちろん、そこまでして無理に使う必要はないわけで、おそらく大多数のユーザーは遠巻きにモルトブックを眺めながら、その行く末や技術としての真贋を見極めていくのが賢明かもしれない。

著者フォローすると、小林 雅一さんの最新記事をメールでお知らせします。