Anthropic J-lens 是什麼？Claude 內部的 J-space 與可解釋性解讀

重點摘要

• 2026 年 7 月 9 日，Anthropic 發表論文，揭示 Claude Opus 4.6 內部存在名為 J-space 的隱藏詞彙空間，其中的詞彙在模型輸出之前就已浮現，與即將生成的回應高度相關
• Anthropic 發現模型「自稱在做的事」與中間層實際運算常有出入，Jacobian lens 技術提供一條新的監控路徑
• Anthropic 已與開源平台 Neuronpedia 合作，開放任何人試用 hands-on demo，直接觀察 Claude Opus 4.6 的 J-space

2026 年 7 月 9 日，Anthropic 在官網公開一篇研究論文，宣告開發出名為 Jacobian lens（J-lens）的技術，並在 Claude Opus 4.6（今年 2 月發布的旗艦版本）內部找到一個研究者此前沒有描述過的隱藏空間，命名為 J-space。J-space 裡存放的是一組隱藏詞彙，比模型真正開口更早一步浮現在中間層，卻與即將生成的回應高度相關。讓 Anthropic 研究人員更在意的，是這個技術揭露的另一個發現：模型自稱在做的事，往往和它中間層實際算的，不是同一回事。

J-lens 與 J-space 究竟是什麼？

語言模型的架構，可以想成一疊書本。最底層是輸入層，負責解析進來的文字；最頂層是輸出層，準備即將送出的回應；夾在中間的，是真正做重活的中間層，神經元在這裡進行複雜的數學運算，把提示一步步轉換成答案，一次生成一個詞彙。輸入層和輸出層大多在做例行的搬運工作，中間層才是模型推理的關鍵。

J-lens 的切入點正是中間層。Anthropic 研究人員用這套工具，在模型還沒真正輸出答案之前，就從中間層提取出一組詞彙，這組詞彙和模型即將生成的回應高度相關，構成 J-space。如果把語言模型比作一個人，J-space 揭露的就是它說出來之前腦中轉的東西，不是最終選定的字，而是抵達那個答案前，中間層在處理的概念群。Anthropic 和其他研究者的前期工作，為 J-lens 鋪平了道路。但 J-lens 觸及了過去沒人系統性觀測過的更深層，這也是 MIT Technology Review 今年把機制可解釋性（mechanistic interpretability）列為年度突破技術後，該領域最實質的進展之一。

為什麼模型說的和做的不一樣？

Anthropic 的核心發現暴露了一個根本落差：語言模型對自己行為的描述，和中間層真正的運算過程，常常走在不同的軌道上。這不是模型說謊，更可能的詮釋是：模型輸出的自我描述本身也是生成出來的文字，它和中間層的數學運算本來就沒有完整的對應關係，兩者的偏離是結構性的。

這個落差直接影響了安全控制。如果你想知道模型「打算做什麼」，過去的做法不是觀察輸出，就是
要求模型解釋推理。但如果模型的自我解釋本身也是生成出來的，它就無法當成可靠的監控手段。J-space 提供的是另一條路徑：直接讀中間層在運算的詞彙群，不等模型輸出再解讀，而是比輸出早一步看到它「考慮」的方向。Anthropic 的主張是，監控 J-space 裡浮現的詞彙，給研究人員一個更直接、更早期的視窗。專門開發語言模型理解與控制工具的新創公司 Goodfire 的首席科學家兼共同創辦人 Tom McGrath 評價這項成果「非常好且有趣」，措辭謹慎，也反映出該領域的現狀：技術雖有進展，但離成熟的安全保障工具還有一段路。

機制可解釋性怎麼走到可上手工具這一步？

Anthropic 在機制可解釋性這條研究路線上，已持續推進約兩年。過去可解釋性研究通常聚焦在神經元層級的啟動模式，或是注意力權重的表面分析；J-lens 把重點放在更接近輸出端的詞彙空間，也就是模型在真正選字之前就已浮現的候選詞彙群。理論上，研究人員能比輸出早一步看到模型「考慮」的方向，不用等它說出口才用猜的。之所以說「更深一步」，是因為這個觀測位置此前是研究者很難系統性進入的地帶。

Anthropic 的下一步是讓這套工具從論文走向可操作。他們和 Neuronpedia 合作，把 J-lens 包裝成任何人都能試用的 hands-on demo。Neuronpedia 是一個開源平台，讓外部研究者能自己動手探索語言模型的內部結構。把 J-lens 放上這個平台，代表 Anthropic 正在邀請外部驗證，而不只是把這套工具當成內部的安全監控手段。對工程師來說，這個 demo 是個難得的機會，可以直接觀察 Claude Opus 4.6 在特定提示下，J-space 裡會浮現哪些詞彙。這一步把機制可解釋性從「要進 Anthropic 才能碰的東西」，推進到「外部開發者可以直接驗證的工具」，兩者之間的距離，在過去兩年的研究迭代中，正在持續縮短。

J-space 的限制與詮釋風險有哪些？

能看見，不等於能讀懂。J-space 提供了一組可觀測的詞彙，但如何詮釋這些詞彙是另一個問題。把中間層的隱藏詞彙比作「模型在想的事」，是有說明力但可能過度簡化的比喻：語言模型沒有意圖，「在想什麼」是借用自人類認知的框架，不一定對應模型實際的運算邏輯。詮釋過度的風險在於，研究人員可能把一組統計上相關的詞彙，誤讀成模型的「計畫」或「動機」，進而對安全狀態做出錯誤判斷。這個陷阱在機制可解釋性研究裡並不新鮮，但 J-space 因為提供的詞彙直觀可讀，可能讓過度詮釋變得更容易。

更根本的限制是，監控 J-space 目前是被動的觀測工具，不是主動的控制手段。即使研究人員看到模型中間層走向某個方向，如何在那個時間點介入、如何修改詞彙空間的走向，這套機制目前沒有對應的工具。Anthropic 聲稱 J-lens 給了它「理解和控制」模型的新途徑，但「控制」這個說法目前更接近潛力描述，而不是已完成的能力。評估 J-lens 的實際安全價值時，這個落差值得放在心裡。

可解釋性正在從評估模型行為的學術指標，走向可以嵌入生產監控流程的操作性工具。接下來真正值得追蹤的問題，是當 J-space 的異常訊號出現時，Anthropic 和外部研究者能不能建立有效的介入機制，讓監控能力真正轉化成控制能力，這段距離，才是機制可解釋性這條路線接下來最難跨越的。

常見問題

J-space 裡的詞彙，和模型最終輸出的詞彙有什麼不同？
J-space 裡的詞彙在模型還沒開口之前就從中間層浮現，與即將輸出的回應高度相關，但不等於最終輸出的文字。它更像模型抵達答案前，中間層在處理的概念群，而不是最後選定要說出的字。

監控 J-space 能防止模型做出問題行為嗎？
目前看來，J-space 主要是觀測工具，讓研究人員更早、更直接地看到模型中間層在運算的概念。Anthropic 尚未說明如何把這個監控訊號轉化為主動介入的控制機制，「監控得到」和「阻止得了」之間仍有距離。

一般工程師能試用 J-lens 嗎？
可以。Anthropic 已與開源平台 Neuronpedia 合作，推出 hands-on demo，任何人都能直接在 Claude Opus 4.6 上觀察 J-space 的運作，不需要訪問 Anthropic 的內部工具。