生成AIは今後の金融業界をいかに変容させるのか 自社連携を超えたビジネスモデルの大転換

現状、取り組みが進んでいる金融機関であっても、フェーズ2の段階にあり、自社データとLLMを連携させてPoC（Proof of Concept）を進めている。具体的には、文章作成、問い合せ応対支援、議事録生成などの主に一般的な社内業務に生成AIを活用し、業務効率化を図る取り組みが行われている。ただし、本格的な実用段階はこれからであり、現在はPoCを通じた試行錯誤の段階が多いといえる。

（出所）野村総合研究所

実用に向けた課題をいかに乗り越えるか

生成AIを実用段階に移行するためには、いくつかの課題を乗り越える必要がある。金融機関では生成AI活用の課題として、データ保護、回答の正確性（ハルシネーションの発生）、活用のためのリテラシー、回答の不確実性（回答文章が生成の度に異なる特性）などが挙げられることが多い。また、実用段階への移行においては生成AIの導入によって、どの程度の効率化や品質向上を達成したかの費用対効果や従業員への影響の評価も重要になってくるだろう。

これらの課題に対処するために、まずデータ保護の観点では、入出力データがLLMを動かしているデータセンターに送信されることを防ぐため、自社統制下のプライベートクラウドやオンプレミス環境でLLMを動作させることが理想的であろう。しかし、それが難しい場合は入出力データの保存や再学習を行わないことなどが規約で定められているサービスを使うことも考えられる。

回答の正確性や回答の不確実性については、ハルシネーション（LLMが誤った情報を生成してしまうこと）の発生を最小限に抑えるために、RAGなどにより外部知識を参照して回答を生成する仕組みの整備や、ユーザーである人間が必ず生成された文章を確認するなどの運用が考えられる。