生成AIニュース 2026年6月26日

AIの「どこで動かすか」問題が、ITインフラの設計を根本から変えている

AIの「どこで動かすか」が、ITインフラの設計を根本から変えている

AIを「使う」フェーズから「本格運用する」フェーズへの移行が進む中で、見落とされがちな問いがある。「そのAI、どこで動かすつもりか」だ。

多くの企業の関心は、どのAIモデルを使うか、どの業務に適用するか、に集まっている。それ自体は間違いではない。ただ、生成AIやAIエージェントを本格的に業務へ組み込もうとした瞬間、「電力」と「冷却」という、ITの世界では長らく脇役だった要素が、急に主役として浮上してくる。

数字で見る電力消費の現実

国際エネルギー機関（IEA）の予測が、この問題のスケール感を端的に示している。世界のデータセンターの電力消費量は、2024年の約415TWhから2030年には約945TWhへと倍増する見込みだ。これは2024年時点の日本の年間電力消費量をやや上回る規模に相当する。

この数字が示すのは、AI活用の拡大がデータセンターの設備要件を押し上げるだけでなく、電力供給システムをはじめとする社会インフラ全体に影響を及ぼすということだ。エネルギー問題と情報技術が交差する地点に、AI活用の制約がある。

なぜここまで電力需要が跳ね上がるのか。理由はAIワークロードの性質にある。大規模な学習や推論にはGPUなどのAIアクセラレータが不可欠で、ラック当たりの消費電力は従来の業務システムとは桁違いの水準になる。高密度に実装されたGPUは大量の熱を発生させるため、従来型の空冷では対応しきれず、液冷（冷却液を循環させてGPUの熱を除去する方式）の導入が現実的な選択肢として浮上している。

つまり「GPUを調達して設置すれば動く」という発想が、すでに成立しなくなっている。受電容量が確保できるか、冷却能力が十分か、既存の設備で対応できるか——こうした物理的な問いに答えられなければ、AI活用の規模もスピードも制限される。

クラウド一択ではなくなってきた現場の実態

こうした物理制約を考えると、企業がまずクラウドや外部GPUリソースに頼るのは合理的な選択だ。自前で高密度GPU環境を整える手間とコストを省いて、早くAI活用を始められる。

実際、ITR（アイ・ティ・アール）の調査でも、AI基盤を構築済みの企業ではクラウドサービスを利用している割合が50%と最多で、オンプレミスが29%、ハイブリッドが21%となっている。

ただ、ここが読み流してはいけないポイントなのだが、AI基盤を「構築中またはPoC段階」にある企業では数字が逆転している。オンプレミスが42%、ハイブリッドが37%で、クラウドサービスはわずか21%にとどまる。

この逆転は何を意味するか。AI活用が業務深部に入り込むほど、「データをどこに置くか」「誰が触れるか」「どのシステムと接続させるか」という統制の問題が無視できなくなる。機密性の高い顧客情報や人事データ、製造上のノウハウをAIに使わせるとき、全処理をクラウドに委ねることが常に最適とは言い切れない。レイテンシ、コストの予測可能性、データ主権——これらがオンプレミスやハイブリッドへの回帰を促している。

さらに、ワークロードの性質によって最適な実行場所は異なる。大規模なモデル学習には膨大なGPUクラスタと広帯域ネットワークが要る。一方、推論は工場や店舗、病院といった現場に近い場所で一定の応答速度を維持しながら動かすことが多い。自社データを活用したRAG（検索拡張生成）や業務特化型のAIエージェントになれば、データの所在とAIの実行環境の関係設計が、ほぼシステム設計の核心になる。「クラウドかオンプレか」という二択で片付けられる話ではない。

データセンター選定の「軸」が増えた

ここからは少し構造的な話をしたい。

AI活用をワークロードごとに配置するという考え方が定着すると、データセンターの評価軸そのものが変わる。従来は、立地・災害リスク・耐震性・回線品質・冗長性・セキュリティ・コストが主な判断基準だった。これらの重要性が下がるわけではない。しかしAI前提の環境では、GPUを高密度に収容できる設備能力、十分な受電容量、液冷を含む冷却能力、低遅延なネットワーク接続、データ主権への対応、といった新たな軸が加わる。

国内のAI向けデータセンターの意義も、この文脈で捉え直す必要がある。単に「計算資源を国内に置く」という話ではない。機密性の高いデータを国内法制の下で管理し、業務システムと低遅延で接続し、必要な統制を効かせながらAIを動かすための選択肢として意味を持つ。金融・製造・医療・公共といったデータの取り扱いに厳格な基準が求められる領域では、特にこの問いが先鋭化する。

さらに、AI需要の増加はデータセンターの立地戦略にも波紋を広げている。大都市圏では用地や受電容量の確保が難しいケースも出始めており、電力需要の集中は地域の電力供給や住民生活に影響する。高密度化したデータセンターから発生する排熱の処理も、地域との共存を考えると軽視できない。経済産業省と総務省が推進する「ワット・ビット連携」——電力供給と通信ネットワークを一体で設計し、データセンターの立地やデータ処理の場所を最適化する取り組み——がその背景にある。これは個別企業や事業者だけで解決できる問題ではなく、社会インフラとしての再設計が求められる局面だ。

実務への含意──IT部門はどこから手をつけるか

ここからは実務の話になる。

これまでのIT部門には「サーバやクラウドサービスを調達すれば、必要なシステムを動かせる」という前提があった。AI時代には、この前提が崩れる。計算資源そのものに加え、電力・冷却・設置環境まで含めて設計しなければ、AI活用の規模とスピードに制約が生じる。

とはいえ、全社のインフラを一斉に見直せというのは現実的ではない。優先すべき問いは絞られる。

まず、社内で本格化しつつあるAIユースケースが、学習中心か推論中心か、機密データを扱うかどうかを整理することだ。推論が中心で機密データを扱わないなら、クラウド活用の継続は合理的だ。しかし機密データを用いたRAGやAIエージェントが視野に入るなら、データの所在とアクセス制御の設計を先に固める必要がある。「動いてから考える」では遅い。

次に、現在利用しているまたは検討しているデータセンターやクラウドサービスが、AIワークロードの物理要件に対応できるかを確認することだ。受電容量、冷却方式、GPU収容能力——これらを問えない状態でAI基盤の拡張計画を立てると、後になって物理的な壁に当たる。

最後に、IT部門だけで抱え込まないことも重要だ。ワット・ビット連携のような動きが示す通り、AIインフラの問題は事業者・政府・地域が絡む社会インフラの問題に接続している。外部の動向をウォッチしながら、自社の選択肢を狭めすぎないことが、今のIT部門には求められている。