チップよりも計装が先。「Jalapeño」とGemini 3.5 Flash GAから読むAI推論コストの現在地
2026年6月24日、OpenAIとBroadcomがLLM推論専用チップ「Jalapeño（ハラペーニョ）」を発表した。同じ週、GoogleのGemini 3.5 FlashがGA（一般提供開始）となり、料金ページに具体的な価格が並んだ。
一見すると別々のニュースだ。ハードウェアの話と、モデルの価格改定の話。でもこれ、実は同じ文脈で読める。どちらも「推論をどこで・いくらで動かすか」というレイヤーの競争が本格化してきた、というシグナルだ。
モデルが賢いかどうかよりも、推論の単価とハードウェアが競争軸になりつつある。この記事では、その構造的な変化と、アプリ側のエンジニアや意思決定者が今週具体的に確認すべきことを整理する。
今週起きた2つのニュースを、同じ文脈で読む
Jalapeñoの発表で注目されがちなのは「OpenAIがついに自社チップを持った」という見出しだ。確かにそれは事実だし、象徴的な出来事でもある。
ただ、アプリを作る側の人間にとって、このニュースの本質はそこじゃない。
重要なのは「各プロバイダが推論レイヤーを自社の専用ハードで最適化し始めた」という方向性だ。これが何を意味するかというと、推論の価格・性能・電力効率が、これまでの「汎用GPU上での比較」から離れ、プロバイダごとに非連続に動き始める可能性が出てきた、ということ。
Gemini 3.5 FlashのGAはその「価格競争の現在地」を示す具体例だ。input $1.50 / output $9.00（百万トークンあたり）という数字が料金ページに並んだことで、「準フラッグシップ級の性能をFlash価格帯で使える時代」が名実ともに到来した。
この2つのニュースを並べたとき、見えてくるのは「推論コストをちゃんと測れていないと、気づかないうちに損をする時代が来る」という構造だ。
Jalapeñoとは何か：事実の整理
発表内容から確認できる事実を整理する。
OpenAIとBroadcomが発表した「Jalapeño」は、既存のAIアクセラレータを転用したものではなく、LLM推論向けにゼロから設計された「Intelligence Processor（インテリジェンス・プロセッサ）」だ。設計から製造のテープアウトまで約9か月という開発サイクルは、高性能半導体としては極めて速い。
製造・展開の体制としては、BroadcomのTomahawkネットワーキングシリコンとの連携、Celesticaによるボード・ラック・システムの量産化、という構成になっている。
開発に関わったRichard Ho（OpenAI ハードウェアプログラム責任者）は「OpenAIの研究者との緊密な協働から得た詳細な知見を使い、LLM推論のためにゼロから設計された」と述べており、Greg Brockman（OpenAI社長・共同創業者）は「計算資源をより潤沢にするための長期的なフルスタック・インフラ戦略の一部」と位置づけている。
ただし、初期展開の目標は2026年末。現時点では「テスト中で、現行の最先端品より大幅に優れたperformance-per-wattを示している」という段階だ。
この「テスト中」という留保は重要で、今すぐアプリ側の設計に影響するものではない。少なくとも現時点では。
Gemini 3.5 Flash GAの具体的な数字
Gemini 3.5 FlashのGA化で、Googleの公式料金ページ（ai.google.dev）に具体的な価格が明記された。
- input: $1.50 / 百万トークン
- output: $9.00 / 百万トークン（思考トークンを含む）
マルチモーダル対応で、GoogleはコーディングやエージェントによるLLMの並列実行に最適化したFlash級モデルとして位置づけている。「準Pro級の性能をFlashのコストと速度で」という打ち出しだが、ベンチマーク上の優劣についてはGoogle側の主張として扱うべきだろう。
ここで注意が必要なのが、出力の $9.00/百万トークンには思考トークンが含まれるという点だ。エージェント的な用途や長い推論が必要な経路では、出力（=思考）が膨らむことがある。コスト試算を「入力単価だけ」で見ていると、実際のコストが大きく乖離するケースが生まれる。
なお、同じ「3.5」世代のGemini 3.5 Proは、本記事執筆時点でまだ公式料金ページに掲載されていない。GAは保留中とみられる。
ここからは見方：推論レイヤーが「プロバイダ固有の最適化」に向かう意味
事実の整理はここまでにして、ここからは解釈の話をする。
Jalapeñoの発表が示す構造的な変化は、「汎用GPU上での比較」という前提が崩れ始めていることだ。これまでは各プロバイダのモデルを同じGPU基盤の上で比較する感覚があった。だがOpenAI、Google、そしてAmazonやMetaも独自シリコンへの投資を加速させている。推論の価格・性能・電力効率が、プロバイダごとの専用ハードに依存して非連続に動く可能性が高まっている。
これの何が困るかというと、「今より価格は下がる方向に動くだろう」という感覚を前提に設計してしまうと、足元をすくわれる可能性があるということだ。価格改定はプロバイダとモデル世代ごとに独立して起きる。下がることもあれば、特定の機能の価格が想定外に上がることもある。
もうひとつ重要な含意がある。アプリ側のエンジニアがJalapeñoを直接触ることは当面ない。今できることはチップ選定ではなく、自分の推論コストをちゃんと測れる計装を持つことだ。「次のチップで安くなるはず」と待っている間にも、コスト構造は変わっていく。計装がないまま待っているのが一番もったいない。
実務で今日やること
抽象的な話より、具体的なアクションに落とす。
① コストを「入力」と「出力（思考含む）」に分けて測る
全LLM呼び出しで model / input_tokens / output_tokens / 概算コスト をログに残す。エージェント用途では特に出力トークンが支配的になりやすい。月次でモデル別・機能別のトークン量と単価を棚卸しできる状態にしておくと、価格改定があった瞬間に判断が速くなる。
② タスク別にモデルを割り当てる
要約・分類・抽出・定型整形のように「深い推論が要らない」経路を洗い出し、Flash級モデルに寄せる。上位モデルは「精度が要件で、実証済みの経路」だけに限定する。切り替え前後でゴールデンセットを流し、品質が許容範囲か数値で確認するのも忘れずに。
Gemini 3.5 Flashのような「準フラッグシップ級の性能をFlash価格帯で」という選択肢が増えている今、「品質を理由に全経路を上位モデルにする」判断は再考の余地がある。
③ プロバイダ依存をルーター層の裏に隠す
プロバイダ名・モデル名をアプリ本体に直書きしない。価格改定やモデル廃止のたびに改修が必要になる構造は、今後のコスト最適化の妨げになる。プロバイダ固有の機能（特定の出力形式・ツール仕様）への依存箇所を洗い出し、「設定変更だけで代替に振れる状態」を保つのが実務的なゴールだ。
次の論点：ロックインはじわじわ進む
Jalapeñoのような専用ハードの登場は、推論の性能と電力効率を上げる一方で、ベンダー依存を構造的に深める側面を持つ。OpenAI専用に最適化されたシリコンは、OpenAIのモデルで最もよく動く。これはアーキテクチャとインフラとモデルが一体化していくベンダー戦略だ。
アプリ側が今すぐ感じる変化は小さい。でも1年・2年のスパンで見ると、特定プロバイダの推論パイプラインに深く依存したコードベースを持っているチームと、差し替え可能な設計を持っているチームとで、選択肢の幅が変わってくる。
ロックインは一夜にして起きない。気づかないうちにじわじわ進む。だからこそ、インフラの発表を「自分たちの設計を見直すきっかけ」として使うのが賢い読み方だと思う。
まとめ
Jalapeñoの発表とGemini 3.5 Flash GAは、推論コストの競争が「モデルの賢さ」から「ハードウェアと単価の最適化」へとシフトしているシグナルだ。
アプリ側に求められるのはチップの評価ではなく、次の3つだ。
- 推論コストを入力・出力に分けて常時測れる計装を持つ
- タスク別にモデルを割り当て、上位モデルの使い所を絞る
- プロバイダ依存をルーター層の裏に隠し、差し替え可能にしておく
「Jalapeñoが出た。すごい」で終わらせず、「自分のコスト構造を見直す契機」として使えるかどうか。そこが、このニュースから価値を取れるかどうかの分かれ目だと思う。
