《Claudeに月3万円超課金》でわかった｢AIがよくやる間違い方｣2パターン　非エンジニアのライターが2年使い倒した実感

2つ目は、存在しない数字を作ってしまうことだ。帳簿の集計では、Claudeが存在しない数字を足し合わせた表を作ろうとし、筆者が止めた。

どちらの間違いも、帳簿を見ている人間にしか気づけない。一方で、メールの送信や書類の署名の直前では止まって人に確認を求めるので、取り返しのつかない操作には至っていない。任せる範囲を決め、結果を確かめる人間がいれば、十分に頼れる道具だというのが筆者の実感だ。

なお筆者は個人事業主で、メールも会計ソフトも自分の判断でAIにつないでいる。会社員が勤め先のメールや帳簿を個人契約のAIにつなげば、情報システム部門の管理が及ばない「シャドーAI」となりうる。