「できました」。入社からわずか数週間の新人エンジニアが、あっという間に成果物（ソースコード）を提出した。ところが、上司がそのソースコードを確認するとエラーだらけ。指摘箇所はなんと800件以上。「なぜこうなったのか」と問いただすと、返ってきた答えは「AIが出したので正しいと思っていた」ということだった。
実はこのエピソード、今年3月に放送されたABEMA Primeをはじめ、ニュースサイトで取り上げられるなど、かなり話題となったものだ。同番組に出演した「いえらぶGROUP」執行役員の和田健太郎氏が自社の事例として紹介していたのだが、新人エンジニア当人はそのとき、AIを「正解を叩き出してくれる神様」のように信じ込んでいたのだという。
エンジニア経験者にとっては「そんな人が本当にいるのか？」と耳を疑うような話かもしれないが、今やこうしたケースは決して極端な事例とは言えなくなっている。
筆者はウズウズカレッジという会社でIT・AI人材育成の研修事業を手がけているが、これとまったく同じ構造のトラブルをよく耳にするようになったのだ。そしてその結果として、企業から私たちのもとへは「新人研修でAIを使わせないでほしい」という切実な要望が寄せられている。
現場で量産される「間違いだらけの成果物」
今、現場の上司たちが頭を抱えているのは、新人の「仕事の速さ」が、そのまま「修正不能なゴミの山」に直結してしまうリスクだ。
「できました」と自信満々に成果物を持ってくる新人。しかし、その中身を開いた上司は絶句することになる。一見、体裁は整っているし、とりあえず動くのだが、現場で実装するとシステムの根幹に関わるようなミスが数十、数百とちりばめられていたりするわけだ。
「なぜ、ここがこうなっているの？」と理由を問うても、新人は「AIがそう出したので」と平然と答える。そう、彼らにとってAIは単なる効率化のツールではなく、もはや「思考の完全な代行者」になっていると言えるだろう。
これは、基礎工事の欠陥に気づかぬまま、その上に巨大な高層ビルを建ててしまうようなもの。外から見たらちゃんとした建物に見えるが、壁の中の構造はスカスカで、耐震基準を満たしていないのだ。
