本当に怖いのは｢AIの暴走｣より｢人間の慣れ｣だ…AIの作業自動化に｢失敗する人｣｢成功する人｣明暗分かれる箇所

こう頼んでおくと、Claude Codeは承認のたびに、何をして何が起きるのかを噛み砕いて示してくれるようになります。意味の分かる確認が並べば、惰性の連打ではなく、一つひとつ理解して判断する習慣を保てます。

『［みのるん式］ビジネスパーソンのためのClaude Code仕事術』（技術評論社）。書影をクリックするとAmazonのサイトにジャンプします

危険なのは、自動承認そのものではなく、ガードレールなしで自動承認の範囲を広げ続けることです。何を自動にし、何を必ず人間に聞き、何を禁止するのか。この線引きは、言葉で頼むだけでなく設定として明文化しておきましょう。

筆者にも、この広げすぎで起こした失敗があります。社内のSlackで届いた依頼にClaude Codeと対応していたとき、作業を終えたClaude Codeが、依頼者への返信メッセージまで、筆者に確認せずそのまま送信してしまったのです。当時の筆者は「リスクの低い細かいことは、いちいち確認せず進めてよい」と伝えていました。何がリスクの低い細かいことなのかは、AIの判断に任せきりだったわけです。

そこでルールを「Slackのメッセージ送信のように、他の人へ向けたアクションを起こすときは、内容を私に確認してから」と操作の名前で具体化したところ、この種の事故は起きなくなりました。線引きがあいまいな言葉のままになっていないか、一度見直してみましょう。

線引きの感覚がつかめてくると、逆方向の調整もできるようになります。棚卸しの回答のような定型処理なら、途中の確認は自動承認に任せ、人間の確認は最後の確定だけに絞ります。そうして浮いた注意力を、不可逆な操作の確認に回すのです。

セッションの取り違えを防ぐ

もう1つの慣れが、並行作業で指示の送り先を誤るセッションの取り違えです。社外向けに公開する記事を書かせているセッションへ、社内限定の資料をうっかり貼り付ければ、AIはその内容を使って公開用の原稿を仕上げてしまいます。会社の視点では、これも情報漏洩の入口です。

予防の基本は、指示を送る前に、どの案件のセッションかをひと目確かめる習慣です。あわせてAI側にも、別のセッション向けらしい指示が届いたら実行前に聞き返すよう頼んでおけば、貼り間違えてもそこで止まります。並行作業を社内へ広げるときは、この2つをセットで伝え、社内ルールにも並行作業ならではの論点として含めておきましょう。