人間の頭脳を超えたAI登場で何が起こるか…歴史学者ハラリがAIの進化に警鐘を鳴らす理由

AIと金融の危険な関係

ゲーテの教訓的な寓話を現代の金融の言語に翻訳し、次のような筋書きを想像してほしい。ウォール街の見習いが、金融の職場での単調で骨の折れる仕事にうんざりし、「ブルームスティック（箒の柄）」というAIを作り、元手として100万ドル与え、そのお金を増やすように命じる。AIにとって、金融業界は理想的な活動場所だ。なぜなら、そこは純粋に情報と数学の領域だからだ。AIは依然として自動車を自動運転するのに苦労している。「成功」を定義するのが難しい、ややこしい物理的な世界で、さまざまな人や物とかかわり合いながら移動しなければならないからだ。それとは対照的に、金融取引をするには、AIはデータを処理するだけでよく、ドルやユーロやポンドなどの金額として、成功を数字で楽々計測することができる。金額が増えれば、任務完了だ。

ブルームスティックはより多くのお金を手に入れようとして、新しい投資戦略を練り上げるだけでなく、これまでどんな人間も思いつかなかったような、まったく新しい金融ツールも考え出す。人間の頭脳は何千年もの間、金融の世界の限られた領域だけしか探索してこなかった。貨幣や小切手、債券、株式、ETF（上場投資信託）、CDO（債務担保証券）その他の金融の魔法を発明した。だが、多くの金融の領域は未踏破のまま残されていた。人間の頭には、そこに足を踏み入れることがどうしても思い浮かばなかったからだ。一方、ブルームスティックは人間の頭脳の限界には縛られていないので、これまで隠されていたこれらの領域を発見し、探索し、AlphaGoの37手目に相当する金融上の手を打つ。

『NEXUS 情報の人類史 上: 人間のネットワーク』（河出書房新社）。書影をクリックするとAmazonのサイトにジャンプします

このようにブルームスティックは人類を金融の未開の地へと導き、二、三年は、何もかもが素晴らしく見える。市場は急上昇を続け、楽々とお金が流れ込んできて、誰もが満足する。やがて1929年や2008年の暴落さえも上回るような大暴落に見舞われる。だが、大統領であれ、銀行家であれ、一般市民であれ、人間は誰も、何がそれを引き起こしたかや、どのような手が打てるのかわからない。神も魔法使いも金融制度を助けに来てはくれないので、切羽詰まった政府は、何が起こっているのかを理解できる唯一の存在、すなわちブルームスティックに助けを求める。

ブルームスティックは、量的緩和よりもはるかに大胆な政策提言をいくつかするが、それらは段違いに不可解でもある。ブルームスティックは、これらの政策は窮地を救ってくれると約束するが、このAIの提案の背後にあるロジックを理解できない人間の政治家たちは、そのような政策は世界の金融の構造を、いや、社会の構造さえも完全に崩壊させるかもしれないことを恐れる。彼らはブルームスティックに耳を貸すべきか？

著者フォローすると、ユヴァル・ノア・ハラリさんの最新記事をメールでお知らせします。