企業の9割がAI再設計を迫られる理由——トークンコストとガバナンスという「本番の壁」
AIの導入事例が増えている。でも今、問われているのはそこではない。
「導入したAIを、本番環境で持続的に動かし続けられているか」
——この問いに対して、世界の企業の実態は思ったより厳しい。Clouderaが2026年11月に公開した調査レポート「エンタープライズAIの現状 2026:AIの本格展開に向けた新たなルール」は、その現実をデータで突きつけている。
何が起きているか——「導入済み」企業が次々と再設計に追い込まれている
調査はClouderaの委託を受けたWakefield Researchが2026年9月に実施し、世界のITリーダーと意思決定者1500人が回答している。
結果は端的に言えば、こうだ。
89%がトークン消費量の増加を理由にAIの用途を制限・再設計している。98%が障害やハルシネーション、予期しない動作を受けて導入・展開を縮小または見直している。
この数字の重さは、少し立ち止まって考えると分かる。「AIを導入した企業のほぼ全員が、一度は計画を修正している」ということだ。これはAI導入に慎重な企業の話ではない。積極的にAIを活用しようとしている企業のITリーダーたちが、本番フェーズで壁にぶつかっているという話だ。
数字を正確に読む——何がそこまで企業を追い詰めているのか
課題の中身は大きく2つに分かれる。コストとガバナンス・法規制だ。
コストについては、55%が「関連コストが想定を上回る速度で上昇している」と回答している。AIモデルの推論コスト自体は年々下がっているが、業務への適用範囲が広がるにつれてトークン消費量が増え、総コストが膨らむ構図だ。コスト増を理由にAIワークロードを別の環境に移した企業は45%に上る。
ここで問題が起きる。環境を移そうとすると、58%が「中程度か大規模な再設計を要する」と回答している。コストを下げようとしたら、移行のための技術的・金銭的負担が発生する——という二重のコストが企業を悩ませている。
ガバナンスと法規制はさらに根深い。84%が「データの保存場所、データ主権、法規制に関する条件がAIワークロードの展開先の選択に影響する」と回答した。75%がガバナンスとコンプライアンスを「AIの本格展開を妨げる要因」と認識している。
各国の規制環境は統一されていない。どの国のデータセンターにデータを置くか、そのデータをどのAIモデルに食わせてよいか——このルールが地域ごとに異なるため、グローバルに展開しようとするほどガバナンス設計は複雑になる。
構造として何が起きているのか——実験フェーズと本番フェーズの断絶
ここからは自分の見方だが、この調査が示しているのは個別企業の失敗談ではなく、AI業界全体の成熟段階における構造的な問題だと思う。
AIツールの「実験フェーズ」は比較的簡単だ。APIにアクセスして、プロトタイプを作って、「動いた」と言える。コストも最初は少ない。ガバナンスもとりあえず後回しにできる。
問題は「本番フェーズ」に進んだときだ。利用ユーザーが増え、処理するデータが増え、業務上クリティカルな判断にAIが絡み始めると、すべての問題が顕在化する。トークン消費は一気に膨らみ、コストの予測が立たなくなる。規制部門や法務部門が「そのデータ、どこで処理してるの?」と聞いてくる。ハルシネーションや障害が業務損失に直結し始める。
この「実験から本番への断絶」は、AI固有の問題というよりも、あらゆる新技術が辿る道だ。ただし、AIの場合はその断絶が特に大きい。なぜなら、コスト構造が従量課金かつ消費量依存で、ガバナンスの対象範囲がデータ・モデル・出力結果まで広く、規制が各国でバラバラに整備されているからだ。
実務への示唆——誰が何を考えるべきか
IT担当者・AI推進担当へ。
今の実行環境が「最適解」だと思って固定してはいけない、というのがこの調査のもう一つのメッセージだ。複数の環境でAIワークロードを運用する理由として、「レジリエンス」(42%)、「データ主権やデータの保存場所に関する要件」(38%)、「コスト削減」(38%)、「データへの近接性」(37%)が挙がっている。
要件に応じてワークロードの実行環境を選べる体制——これがこれからの競争力になる。逆に言えば、特定の環境にロックインされた設計のまま本番運用を進めると、コスト変化や規制変化に対応するたびに大規模な再設計が必要になる。58%が「環境移行に中〜大規模な再設計が必要」と答えている現実は、既にロックインが問題になっていることを示している。
経営層・事業責任者へ。
AIのコストを「月いくら払っているか」という粒度で把握しているだけでは不十分だ。「このタスクを完了させるためにいくらかかっているか」という業務タスク単位での計測体制が必要になってくる。そうでなければ、コストが膨らんでいても気づくのが遅れる。
この調査でも示唆されていることだが、AI活用の取り組みを初期段階からやり直せる場合に何を優先するかという問いに対して、49%が「初期段階からのガバナンス強化」を挙げている。「データ品質への早期投資」(46%)、「インフラのモダナイゼーションの前倒し」(45%)、「従業員トレーニングへの投資拡大」(45%)がほぼ同率で続く。
「最初からガバナンスを作っておけばよかった」と後悔している企業が半数近くいる、ということだ。これは今からAI本番運用を設計する企業への、実体験に基づいたアドバイスとして受け取るべきだ。
次の論点——「再設計の自由度」が企業のAI競争力になる
Clouderaが今回のレポートとともに提示しているアーキテクチャの考え方は興味深い。「データをAI実行環境に移動させるのではなく、ガバナンスが適用されたデータのある場所でコンピューティング処理を実施する」というものだ。
これは従来の「データをクラウドに上げてAIで処理する」という発想の逆をいく。データを動かすのではなく、処理をデータに寄せる——この設計原則は、データ主権や法規制への対応という観点では筋が通っている。
Clouderaの山賀裕二社長執行役員も「日本企業もコスト変動や規制要件の変化に対応してAIを安定運用する必要がある」と言及している。日本固有の事情としては、個人情報保護法やデータの国内保存要件なども絡んでくる。規制の変化は今後も続く可能性が高い。
ここで次の論点として見ておくべきは、「再設計の自由度」が企業のAI競争力の一要素になるという点だ。
コスト・モデル・規制が変化したときに、どれだけすばやくワークロードの実行環境を切り替えられるか。切り替えに伴う再設計コストをどこまで小さくできるか。これはアーキテクチャ設計の問題であり、ベンダー選定の問題でもある。
「今、最も安いモデルを使う」「今、最も処理が速い環境を選ぶ」という意思決定は、将来的に切り替えやすい設計になっていることが前提になる。最初の選択を変えるコストが高すぎると、変化への対応が遅れ、競合との差が開く。
まとめ
「AIを導入した」は出発点に過ぎない。この調査は、そのことをデータで繰り返し示している。
89%が再設計を余儀なくされ、98%が一度は見直しを経験し、55%がコストが予想以上に膨らんでいる——これは失敗事例の集積ではなく、AI本番運用の「普通の姿」だ。
だとすれば、これから問われるのは「AI導入経験があるかどうか」ではなく、「本番フェーズで生じる問題を事前に設計できているかどうか」になる。
ガバナンスを初期段階から作ること、コストをタスク単位で計測できること、環境変化に柔軟に対応できるアーキテクチャを持つこと——これらは地味で、時間のかかる仕事だ。しかし、今回の調査が示す「後から後悔している企業」の顔ぶれを見れば、それを先送りするコストの方が大きいことは明らかだ。