生成AIニュース 2026年6月30日

「一番賢いAIを全部に使うな」──Anthropicが教えるトークンコスト削減の2つの本質

AIをちゃんと使い始めた企業ほど、請求書を見て顔が青くなる。それが今の現実だ。

Anthropicの「Claude Platform」担当開発責任者であるアンジェラ・ジャン氏とケイトリン・レス氏が、AI利用コストを削減するための2つの手法を公式に紹介した。「アドバイザー戦略」と「プロンプトキャッシング」だ。どちらも目新しい概念というより、実務で使えるかどうかが問われる実装寄りの話である。

AIコスト問題は「使いすぎ」ではなく「使い方」の問題

まず前提の整理をしておきたい。

米Gartnerは、AIモデル自体の利用コストは下がる方向にあると見ている。一方で、AIエージェントが普及することで企業が支払うAI推論の総コストは増加すると予想している。理由はシンプルで、AIエージェントはチャット型AIの5〜30倍のトークンを消費するからだ。

日本国内でも、帝国データバンクが2026年3月に約1万社を対象に実施した調査で、特に小規模企業を中心にコスト面の負担が経営課題として浮上している。

つまり、問題の構造はこうだ。「AIが安くなる」は本当だが、「AIに任せるタスクが増える」のも本当で、後者のほうが早く進む。結果として企業が払う総額は増える。これをどうコントロールするか、という話がここからくる。

Anthropicが提案した2つの手法の中身

アドバイザー戦略：「先生と生徒」に分けてコストを最適化

レス氏が最初に紹介したのが「アドバイザー戦略」だ。

仕組みはシンプルで、高性能な（≒高コストな）モデルを「アドバイザー（先生）」、安価なモデルを「エグゼキューター（生徒）」として組み合わせる。エグゼキューターが実際のタスクを処理し、判断に迷ったときだけアドバイザーに助言を求める。

具体例として挙げられているのは次の構成だ。

最難関タスク：Claude Fable 5をアドバイザー、Claude Opus 4.8をエグゼキューター
中難度タスク：Opus 4.8をアドバイザー、Claude Sonnet 4.6をエグゼキューター
軽処理タスク：SonnetとClaude Haiku 4.5の組み合わせ

「最も賢いモデルを全てのタスクに使う必要はない」というジャン氏の言葉は、シンプルだが重要だ。最上位モデル（Fable 5）をアドバイザーに置くことで、その判断能力は活きながら、実作業コストは下位モデルのレートで済む。

なお、Fable 5をアドバイザーにすれば、エグゼキューターが下位モデルであっても「長時間タスクの処理能力」というFable 5の特徴は維持されると両氏は説明している。

「難しい問題」の例としてジャン氏が挙げたのは、大規模なレガシーシステムの移行、膨大なデータ処理、影響範囲の広い脆弱性の調査、工程の多いゲーム開発などだ。これらは最難関タスクの枠に入り、上位モデルをアドバイザーに使う合理的な場面になる。

プロンプトキャッシング：「同じことを何度も読ませない」

もうひとつの手法がプロンプトキャッシングだ。

Claude APIへのリクエストの冒頭部分——Claudeの役割や目標を指定するシステムプロンプト、使用するツールの指定、メッセージ履歴など——をキャッシュして再処理コストを省く仕組みである。

コストの数字を具体的に見ると：

処理の種類	Opus 4.8の料金（100万トークンあたり）
通常入力	10ドル
キャッシュ書き込み	6.25ドル
キャッシュヒット（再利用）	0.5ドル

キャッシュヒット時のコストは通常入力の95%削減になる。初回のキャッシュ書き込み時は追加コストがかかるが、同じ情報を繰り返し参照するユースケースであれば、数回使えばすぐ元が取れる計算だ。

デフォルトのキャッシュ保持時間は5分間で、追加料金を払えば1時間保持させることも可能。社内規定の検索や特定の長文ドキュメントを扱うAIシステムなど、「毎回同じ資料を参照する」タスクとの相性が良い。

構造として読む：これはモデルの選択ではなく、アーキテクチャの設計の話だ

ここからは事実の整理ではなく、見方の話になる。

今回Anthropicが提案した内容は、言ってしまえば「タスクの難易度に応じたモデルの使い分け」と「繰り返し処理の最適化」だ。技術的には難しくない。だが、これを実際に設計に落とせるチームがどれだけあるかというと、正直なところそう多くない。

問題は、多くの企業がまだ「とりあえず最上位モデルを使っておけば安心」という思考で動いているからだ。Claude Fable 5が出ればFable 5を、GPT-5が出ればGPT-5を全部に投入する。それ自体は実装コストが低いし、意思決定が楽だ。でも、コストは垂直に上がっていく。

アドバイザー戦略が示しているのは、「モデル選定」ではなく「AIシステムのアーキテクチャ設計」の話だ。タスクを難易度で分類し、それぞれに適切なモデルを割り当て、ハイエンドモデルの能力は「判断の拠り所」として活かす。これは、ソフトウェア設計における責務分離の考え方と構造が似ている。

換言すると、AIコストの最適化は、エンジニアリングの問題であって、単なる「プランの選択」ではないということだ。

実務担当者が今すぐ考えるべきこと

では、開発者・プロダクト担当・経営者はそれぞれ何を見るべきか。

開発者にとっては、自社のAIシステムにおけるタスクの難易度分類ができているかどうかが第一のチェックポイントになる。今すべてのリクエストを同一モデルに投げているなら、アドバイザー戦略の設計を検討する余地がある。Anthropicの公式ブログには構成図も公開されているので、そこから入るのが早い。

プロダクト担当にとっては、キャッシュが効くユースケースを洗い出すことが具体的なアクションになる。「毎回同じシステムプロンプトを使っているbot」「社内規定や製品マニュアルを参照するRAGシステム」は、プロンプトキャッシングの恩恵を受けやすい典型例だ。

経営者にとっては、AIコストを「利用料」として一括で見るのをやめることが必要になってくる。タスク種別×モデル種別×キャッシュ活用率で分解して管理する体制がなければ、今後のエージェント普及フェーズでコストが制御不能になるリスクがある。