無制御｢生成系AI｣利用者がリアルに直面する危険 ｢責任あるAI｣をどうすれば実現できるのか

生成系AIの開発や利用を規制するといっても、どのように規制するのか、そしてどのように実効性を確保するのか、という問題がある。さらに、この問題は、開発をやめたり抑制したりすれば解決できる問題ではない。

上記のように、G7デジタル/技術相会合は、一定の方針を打ち出した。しかし、本当に必要なのは、抽象論だけではなく、以上で述べたような問題に対処するための具体的な手法の提示だ。

なお、この問題は、教育機関でChatGPTの利用を規制するとした場合においても発生する問題だ。

日本では国会答弁に使うというのだが…

ChatGPTの使い方としてまず最初に教えるべきは、「結果を信用してはならない」ということだ。ところが、日本では、この最も初歩的な注意を無視した使い方が考えられている。政府や自民党は、行政事務に使うとか、国会答弁作成に使うということを言っている。仮にこんなことをしたら、大混乱が起きるだろう。

Googleの検索エンジンBardが公開されたとき、誤った答えを出した。これによって、アルファベット（Googleの持ち株会社）の株価が一時下落した。つまり、株式市場の人々は、Googleの検索エンジンはつねに正しい答えを出すものと期待していたわけである。その期待が裏切られたために株価が下がった。

しかし、すでに述べたように、生成系AIを利用した検索エンジンが誤った結果を出すのは、日常茶飯事である。このとき株式市場の人は、生成系AIを自分で使っていなかったので、それを知らなかったと考えざるをえない。日本で国会答弁に使おうと言っている人々も、まだこの段階にいるのではないかと考えざるをえない。

なお、当然のことであるが、行政の効率を上げたり国会答弁作成の効率を上げるためには、ChatGPTの利用以前に行うべきことが山ほどある。例えば、連絡にメールを使うことだ。国会答弁作業に時間がかかるのは、国会議員の先生が、対面・口頭でないと質問を教えてくれないからだ。日本における非効率性とは、このようにごくごく初歩的な段階で発生しているものなのである。

この連載の一覧はこちら

著者フォローすると、野口 悠紀雄さんの最新記事をメールでお知らせします。