こうした課題は現行法やカード規約によって判断されるとしても、AIが関与した取引について、誰がどの記録を保存し、調査や返金対応を担うかは実務上の整理が必要になる。将来的に大きな課題となるだろう。
企業が今からできる3つの準備
ここまで述べてきた課題は、EC企業やカード会社だけに限られない。AIエージェントは移動や出張の手配だけでなく、備品購入や発注、広告出稿など、一般企業の業務にも利用されうるからだ。
企業にとっての利点は、単なる作業の高速化ではない。効果が見込めるのは、備品・消耗品の購入や出張手配など、少額でも件数が多く、比較・承認・記録を繰り返す業務である。
人間が手間に見合わないとして省きがちな価格や在庫、納期の比較まで継続して行わせることで、人間はその他の重要な判断に集中できるだろう。
権限設定に初期コストはかかるが、継続するならば結果的に生産性が向上するはずだ。また必要な準備の多くは、既存の購買規程や決裁権限、記録管理をAIにも適用するだけともいえる。
ただし、取引件数が少ない企業等では、現時点では人間が処理する方が合理的な場合もあることは付け加えておきたい。
これに備えて、以下では企業で対策が必要となる3点を挙げたい。
1. 自社のAIが、どのシステムに接続されているかを確認する
社内で利用するAIエージェントが、購買システムや法人カード、メール、顧客情報などのどこに接続し、どのような権限を持っているかを一覧化する。また、ウェブやメールなど外部から取得した情報を無条件に信用させず、購入先を承認済みの事業者に限定することも必要だ。
2. AIの権限を必要最小限にすること
金額だけでなく、購入先、品目、回数、有効期限を制限する。特に初回取引や高額取引、配送先の変更など、リスクの高い操作は人間の再承認を必須にする。
3. AIの行動を記録し、止められるようにすること
AIが何を指示され、どの情報を読み、誰の承認を経て何を実行したかを記録する。問題が起きた際に原因と責任を調査できる体制を整えるとともに、決済権限や認証情報を直ちに停止できる手順も定めておく。
AIエージェントは個人にも企業にも大きな利便性をもたらす。一方、導入前には十分な安全対策が必要だ。いずれ到来するAIエージェントブームに向けて、今後は先行する海外の事例も参考に、AIに許すべき上限を今のうちに社内で議論すべきである。
※ログイン後、コメント入力が可能です。