LLMの「頭の中」を覗く技術——アンソロピックが発見した「J空間」とは何か
LLMが答えを出す前、その内部では何が起きているのか。この問いに対して、アンソロピックがひとつの「窓」を開けた。
2025年7月、アンソロピックは「ヤコビアン・レンズ（Jacobian lens）」、通称「J-レンズ」と呼ばれる新しい技術を論文として公開した。これを使って同社の主力モデルであるClaude Opus 4.6の内部を調べたところ、「J空間（J-space）」と名付けられた隠れた領域が見つかった。そこには、モデルがこれから出力しようとしている単語の候補が浮かび上がっていたという。
単なる技術的な発見として読み流せる話ではない。これはLLMの「内部処理」と「自己申告」の乖離を、外部から観測できる手段が生まれたことを意味する。
J空間とは何か——具体的に何が見えるのか
アンソロピックの研究者たちがJ空間で確認したのは、モデルが近い将来の応答として出力する可能性が高い単語やフレーズに関連する語群だ。
もし仮にClaudeが人間だとすれば（もちろん実際にはそうではないが）、こうした隠れた単語は、実際に言葉として発する前に「頭の中で考えていること」を垣間見せるもの——アンソロピック自身がそう説明している。
特に注目されたのが、捏造（ハルシネーション）に関連する状況での観測結果だ。モデルが事実を捏造しようとする場面では、J空間に「panic（パニック）」や「fake（偽物）」といった単語が繰り返し現れることが確認された。モデルが何かを「でっち上げる」瞬間に、内部では特定のシグナルが走っている。それが外から見えるようになった、ということだ。
LLMの内部構造を「本を何冊も積み重ねたもの」と捉えると理解しやすい。各層（本）はニューロンと呼ばれる計算ユニットで構成され、下から上へと情報が受け渡される。入力層がテキストを受け取り、出力層が応答を準備する。J空間が存在するのは、その中間の深い層だ。J-レンズは、これまで研究者が届かなかった「積み重ねの中ほど」に光を当てる技術だと言える。
機械論的解釈可能性という文脈に置く
この研究を正しく評価するには、「機械論的解釈可能性（mechanistic interpretability）」という研究分野の文脈に置く必要がある。
アンソロピックはここ数年、この分野を積極的に切り開いてきた。LLMの内部動作を詳しく調べ、その仕組みを解明することを目指す研究領域で、MITテクノロジーレビューは2025年の「10大技術」の一つにも選出している。今回のJ-レンズは、これまでの成果を基盤として、さらに深い層へのアクセスを実現したものだ。
また今回、アンソロピックはLLMの内部を誰でも探索できるオープンソースプラットフォーム「ニューロンペディア（Neuronpedia）」と提携し、一般ユーザーが実際に試せるハンズオンデモも公開した。研究成果をクローズドに持つのではなく、外部に開いていこうという姿勢が読み取れる。
スタートアップ「グッドファイア（Goodfire）」の共同創業者兼主任科学者であるトム・マクグラスは「非常に優れた、興味深い研究」と評している。グッドファイアはLLMを理解・制御するためのツールを開発する会社だ。競合とも言える立場からの言葉だけに、重みがある。
ここからが見方——この研究が示す構造的な意味
事実の整理はここまでにして、ここからは自分なりの解釈を加える。
今回の発表で、個人的に最も重要だと感じたのは「J空間そのもの」ではなく、アンソロピックが公式に認めた以下の事実だ。
LLMは、自分が実際に内部で行っている処理と、それについて自ら説明する内容が一致しないことが少なくない。
これはLLMを扱ううえで、ずっと「そうかもしれない」と言われてきたことだ。しかし今回、開発元が自社モデルの研究を通じて、正面から認めた。この認定自体が、業界の透明性議論に対するひとつの答えになっている。
「モデルに聞けばわかる」という発想は、思っている以上に危うい。Chain-of-Thoughtで思考過程を出力させても、それはモデルの内部処理の忠実な反映ではない可能性がある。外部から観測できる監視の窓を持つことの意味が、ここで改めて浮き彫りになる。
一方で、期待値の調整も必要だ。J空間という窓が開いたからといって、LLMの全体像が把握できるわけではない。論文自体もその点は認めており、「挙動監視に有効な一方、全体像は把握できない」「AIの安全監査にはさらなる技術的確実性が求められる」と結論づけている。これは発見であって、解決ではない。
実務的に何を考えるべきか
AI開発の現場で働く人間、あるいはLLMをプロダクトに組み込んでいる立場から考えると、このニュースには二つの実務的な示唆がある。
ひとつは、ハルシネーション対策の設計思想への影響だ。
「panic」「fake」といったシグナルがJ空間に現れるとすれば、理論上はモデルの出力前にそれを検知する仕組みが作れるかもしれない。現状のハルシネーション対策の多くは「出力後に事実確認する」か「プロンプトで抑制する」かのどちらかだ。内部状態の監視によって「出力前に検知する」という第三の手が使えるようになれば、信頼性の設計が根本から変わる可能性がある。
ただし現時点では研究段階であり、プロダクションで使える実装はない。ここを「すぐに使える技術」と混同しないことが重要だ。
もうひとつは、AI安全監査の議論への参照軸として使えることだ。
企業がLLMをシステムに組み込む際、「このモデルは安全か」を問われる場面が増えている。今後、外部監査機関や規制当局が「内部状態の観測可能性」を評価基準に加える可能性は十分にある。J-レンズのような技術が、監査の語彙として定着するかどうかを追っておく価値がある。
次の論点——技術的確実性はまだ途上
同種のニュースを見るとき、どこを見ればよいか。
機械論的解釈可能性の研究が出てきたとき、問うべきは「どの層を、どの精度で、どの範囲まで観測できるか」だ。J空間は確かに興味深い発見だが、積み重ねの「中ほど」の一部が見えるようになっただけだ。全レイヤーにわたる包括的な観測には程遠い。
今後の焦点は三つある。
一つ目は、他のモデル（GPT系、Gemini系など）でも同様の手法が通用するかどうか。アーキテクチャが異なれば、J空間に相当するものが同じ形で存在するとは限らない。
二つ目は、この技術が安全監査に実用できるレベルの「技術的確実性」を持てるかどうか。誤検知・見逃しのリスクを定量化できないうちは、監査ツールとしては使いにくい。
三つ目は、ニューロンペディアとの提携によるオープン化が、研究コミュニティにどう広がるかだ。外部の目が入ることで、J空間の解釈が洗練される可能性もあれば、悪用の道が開かれる可能性もある。
まとめ
LLMの「考えていること」を外から見る技術が、少しだけ現実に近づいた。J空間という発見は、LLMの内部処理と自己申告の乖離を公式に認め、外部から観測する手段の萌芽を示したという点で意義がある。
ただし、窓が一つ開いただけだ。家の全容がわかるわけではない。ハルシネーションが捏造の瞬間に「panic」を灯すという事実は示唆的だが、それをプロダクトや監査に活かせる段階には至っていない。
次の一手は、研究コミュニティが追試し、適用範囲を広げ、技術的確実性を積み上げることだ。その積み上がり方を定点観測することが、今のAI開発に関わる人間にとっての実務的な向き合い方だと思う。
