「壊れ過ぎてビビった」──ソフトバンクが1220億円でAIスパコンを作って学んだこと
GPUは壊れる。しかも、想像以上の頻度で。
これは、ソフトバンクが1万基以上のGPUを集めてAI計算基盤を構築する中で直面した、教科書には載っていない現実だ。AI計算基盤の構築に第1世代から携わってきた種邑宏平さん（AI&HPCインフラ統括部 統括部長）は、こう振り返っている。
「AI用のGPUは、従来のITインフラで使っていたサーバなどよりも故障が多い。AI計算基盤を作り、性能試験をして安定稼働させるまでにGPUがどんどん壊れました。こんなに壊れると知らないため、みんなビビりました」
サーバ担当として第2世代以降のプロジェクトに参画した横山哲雄さん（AIクラウド開発部 部長）も続ける。
「GPUは希少で国内の在庫が少ないため、かき集めて、順次修理をしました。他のIT製品にはない独特な苦労でした」
この2つの発言が、この記事で伝えたいことの核心を先に示している。AIインフラの話は、スペックや投資金額の話だけでは終わらない。
ソフトバンクのAI計算基盤、数字で整理する
まず事実を整理しておく。ソフトバンクは2023年以降、段階的にAI計算基盤を構築してきた。累計投資額は1220億円（補助金控除後、2026年3月時点）。構成は以下の通りだ。
| 世代 | GPU数 | GPU種別 | 稼働開始 |
|---|---|---|---|
| 第1世代 | 2000基以上 | NVIDIA A100（Ampere） | 2023年10月 |
| 第2世代「CHIE-2」 | 4000基以上 | NVIDIA H100（Hopper） | 2024年10月 |
| 第3世代「CHIE-3」 | 非公開 | NVIDIA H100（Hopper） | 2024年 |
| 第4世代「CHIE-4」 | 4000基以上 | NVIDIA B200（Blackwell） | 2025年7月 |
| 液冷式基盤 | 1224基 | NVIDIA Blackwell GPU | 2025年12月 |
2025年に完成した「CHIE-4」は、スーパーコンピュータのAI処理性能を測る指標で国内1位を獲得している。
全世代を通じてNVIDIA製GPUを採用し続けており、使用するプラットフォームは「NVIDIA DGX SuperPOD」だ。GPU、ストレージ、ネットワーク機器、AI学習・推論用ソフトウェアを統合したフルスタック構成である。
なぜNVIDIAを選んだのか──「性能」以外の理由
NVIDIAのGPUが高性能であることは誰でも知っている。では、なぜ他社製品ではなくNVIDIAなのか。
種邑さんはその理由をこう説明している。
「『構築時の最新GPUを使えるか』『GPUの性能を最大まで使えるか』『決められた期限内に安定稼働させられるか』といった点が重要でした。NVIDIA DGX SuperPODを選んだ理由は、ここにあります」
重要なのは「決められた期限内に安定稼働させられるか」という要件だ。これはスペックの話ではなく、実績と信頼性の話である。
第1世代を構築した2023年当時、AMDなど競合ベンダーが提供するAIシステムは「大規模な計算基盤として検証されていなかった」と種邑さんは言う。一方、NVIDIAのシステムはスパコン世界ランキング「TOP500」の上位に入る多くのコンピュータに採用されており、実績があった。
また、NVIDIAの強みはGPU単体にとどまらない。DGXシリーズのAIサーバ、高速ネットワーク機器、そして「NVIDIA AI Enterprise」と呼ばれるソフトウェア群を一体で導入できる構成が、高性能なAIシステムを素早く立ち上げることを可能にしている。
NVIDIAの強みは「勝ちパターンの再現性」にある
ここからは見方の話になる。
NVIDIAがこれだけ支持される理由を「GPUが速いから」と単純化するのは少し足りない。本質は、「大規模システムとして動かしたときの再現性」に実績が積み上がっているという点だと思う。
性能の数値だけを見れば、AMDのMI300XシリーズなどはH100と互角以上の指標を出す場面もある。それでも多くの大規模基盤構築でNVIDIAが選ばれ続けるのは、「試してみたら動かなかった」というリスクを負いたくないからだ。
1220億円を投じるプロジェクトで、「期限内に稼働させられるか分からない」選択肢を採れる企業はほとんどない。NVIDIAのエコシステムは、その意思決定を楽にする構造になっている。
これは競合にとって非常に厄介な壁だ。スペックで追いつくことはできても、「TOP500に何十台入っているか」という実績の蓄積は一朝一夕には逆転できない。ソフトバンクが毎世代NVIDIAを選び続けることで、NVIDIAの実績はさらに積み上がる。この循環が、現在のNVIDIA優位の本質的な構造だと思っている。
実務への示唆：GPU運用は「ITインフラの延長」ではない
ここが今回の記事で最も実務的な示唆を含む部分だ。
「GPUはよく壊れる」というのは、AIインフラを自社で持とうとする組織が最初に理解しておくべき事実である。AIの学習・推論は、GPUに対して極めて高い負荷をかけ続けるワークロードだ。従来のWebサーバやDBサーバのように「設置したら数年は安定稼働する」という感覚で設計すると、現実のオペレーションコストに驚くことになる。
ソフトバンクのような体制があっても、「国内の在庫が少ないためかき集めて修理した」という状況が発生している。社内に数百基のGPUを持つような企業が、同じ問題に直面したとき、修理・調達のオペレーションを回せる体制があるかどうかは、自社基盤を持つ前に検討しておくべき論点だ。
クラウド vs オンプレの判断において、これまで語られてきたのは主に「コスト」「セキュリティ」「カスタマイズ性」だった。ここに「GPU故障時の運用体制を自社で持てるか」という軸が加わる。
中規模以上のAI活用を検討している組織にとって、「AIクラウドを借りる」選択肢の現実的な重みが増している理由の一端は、ここにある。
次の論点：クラウドとして貸し出した先に何があるか
ソフトバンクは現在、このAI計算基盤群をクラウドサービスとして他社に貸し出し、企業のAI開発を後押しする事業を展開している。
これは自然な流れだ。1220億円の設備投資を自社内のワークロードだけで回収しようとすれば、相当な時間がかかる。外部に提供することで稼働率を上げ、コストを分散するのは合理的な判断である。
ただ、ここで気になるのは「日本のAI計算基盤がどれだけ集約されていくのか」という点だ。国内1位の性能を持つ基盤を持つプレイヤーが、そのインフラを他社に提供するモデルが広がると、AIの競争力が「誰の基盤を使っているか」にある程度規定される構造になる。
これは今すぐ問題視すべき話ではないが、日本のAI開発生態系の健全性を考えるうえで、次に見ておくべき論点の一つだと思っている。NVIDIAのGPUを誰が多く持っているかが、AIの競争地図を決めるとすれば、その集積が進む方向性には関心を持ち続けてよい。
まとめにかえて
ソフトバンクのAIスパコン構築の話は、「1220億円」「国内1位」という数字のインパクトで語られがちだ。しかし、この記事を通じて残しておきたい論点はもう少し地味なところにある。
GPUは壊れる。実績のないシステムは期限内に立ち上がらない可能性がある。NVIDIAの優位は性能ではなくエコシステムと実績の蓄積にある。
次にAIインフラの調達・構築に関するニュースを読むとき、「どこのGPUか」よりも「なぜそこを選んだか」「運用体制はどう設計されているか」を見るようにすると、記事の解像度が少し上がるはずだ。
参考元: 「最初は壊れ過ぎてビビった」──1220億円投じたソフトバンク「AIスパコン」、それでもNVIDIAのGPUを選ぶワケ（ITmedia ビジネスオンライン）
