AIに月数万円も払う時代が来た､ChatGPTだけでは済まない追加課金の連鎖とサービス淘汰の行方

AIを活用したソフトウェア開発の現場では、エンジニアが大量のトークンを消費しながら仕事を進めるようになっている。高度なAIエージェントを長時間稼働させれば、個人のサブスク料金をはるかに超える利用コストが発生することもある。

一方で、こうしたAIの利用が、従来なら何日もかかっていた仕事を短時間で終わらせることにつながるなら、そのコストを十分に回収できる場合もあるだろう。つまり、問題は単にAIが高価だということではない。AIに支払う費用と、AIによって生み出される価値のバランスが重要なのだ。

AIを自社開発せずに、AIサービスを提供する企業の登場

新しい潮流も生まれつつある。

GensparkやManusなどのAIエージェントサービス企業は、OpenAI、Anthropic、Google、xAIなどの基盤モデル開発企業が提供するLLMを活用し、それらを組み合わせてユーザーにサービスを提供している。

サービスの利便性について、プレゼンテーションするGensparkの共同創業者兼CTOのカイ・ジュー氏（写真：筆者撮影）

自社で最先端の基盤モデルをゼロから開発するのではなく、外部のモデルを利用し、ユーザーの指示を理解して仕事を進める仕組みを開発するというアプローチだ。

たとえば、複雑な推論には高性能なLLMを利用し、比較的単純な作業には安価なモデルを利用する。複数のモデルを使い分けたり、ブラウザ操作やコード実行などの機能を組み合わせたりすることで、ひとつの仕事を完成させる。

基盤モデル開発企業が、圧倒的な資金力でエージェントサービスを作ると容易に圧倒されるのではないか？ という疑念はあるが、ユーザーにとって便利なフロントエンドさえ提供できれば、これはこれで成立するビジネスなのかもしれない。

基盤モデル開発企業には、膨大な研究開発費用と、AIを動かすための計算資源の調達・運用費用がのしかかる。

一方、AIエージェントサービス企業は、基盤モデルそのものの開発費用を負担せずに済む。ただし、外部モデルのAPI利用料は必要だし、ひとつの仕事を完了するために何度もAIを呼び出す場合、そのコストは決して小さくない。それでも、上手く運用できれば、AIエージェントサービス企業は新たな業態として定着するかもしれない。

また、Gensparkでは、特定の作業に最適化した自社独自モデルの開発も進めている。これは、既存の基盤モデルをベースに追加学習を行い、スライド作成など特定の仕事を効率よく実行できるようにするアプローチだ。すべての作業に、最先端の巨大なLLMが必要なわけではない。簡単な分類や情報の整理、決まった形式への変換などであれば、比較的小さなモデルでも十分な場合がある。

そこで、仕事の内容に応じて適切なモデルを選択する『モデルルーティング』という仕組みが重要になる。高性能なモデルが必要な時だけ高価なLLMを使い、それ以外の処理には安価なモデルを利用すれば、サービス全体のコストを抑えられる可能性がある。