Goodfire融資1.5億美元破解AI黑箱：可解釋性技術減少50%幻覺，發現阿茲海默症新生物標記

AI最大的未解難題：黑箱問題

當代AI的核心悖論在於：我們能夠建造越來越強大的模型，卻對它們的內部運作機制所知甚少。一個擁有數千億參數的大型語言模型為何會產生某個特定回答？它的「推理過程」是真正的邏輯推演還是精巧的模式匹配？當它產生幻覺（hallucination）時，是哪些內部機制出了問題？這些問題不僅是學術好奇，更是AI安全部署的核心障礙。

在醫療、金融、法律等高風險領域，「AI說了什麼」遠不如「AI為什麼這樣說」重要。監管機構、醫生、法官都需要理解AI決策的依據，才能負責任地採納其建議。正是這一迫切需求，催生了「機械可解釋性」（mechanistic interpretability）這一研究領域的爆發——而Goodfire正站在這一領域的最前沿。

Goodfire：從學術殿堂到獨角獸

Goodfire由Nick Cammarata和Tom McGrath共同創立。Cammarata此前是OpenAI的可解釋性研究團隊成員，曾發表多篇開創性的「神經元視覺化」論文，揭示了AI模型內部的特徵表示方式。McGrath則來自DeepMind，專注於強化學習系統的內部機制分析。兩人在各自機構的研究經歷中，深刻體會到可解釋性工具的缺乏正在制約AI安全和應用的進展。

公司剛完成的1.5億美元B輪融資由B Capital Group領投，使Goodfire的估值達到12.5億美元，正式躋身獨角獸行列。加上此前的種子輪和A輪，Goodfire的累計融資已超過2億美元。

模型設計環境：像調試軟體一樣調試AI

Goodfire的核心產品是其「模型設計環境」（Model Design Environment，MDE）——一個允許研究人員和工程師深入理解、編輯和即時監控AI模型內部機制的平台。如果說傳統的AI開發像是在不透明的黑箱外面調整輸入和觀察輸出，那麼MDE則像是打開黑箱蓋子，直接查看和修改內部的齒輪和電路。

這一類比並非誇張。在軟體工程中，調試器（debugger）的發明徹底改變了程式開發的方式——工程師不再需要靠猜測和日誌來定位問題，而是可以逐行檢視程式的執行狀態。MDE對AI開發的意義正如調試器對軟體開發的意義：它讓開發者能夠「看見」模型內部正在發生什麼。

三大核心功能

MDE的功能可以概括為三個層次。第一是「理解」：透過稀疏自動編碼器（Sparse Autoencoders）和激活圖譜（Activation Atlas）等技術，將模型內部的高維特徵空間轉化為人類可理解的概念圖譜，讓研究者能夠識別模型中負責特定概念和行為的「特徵迴路」（feature circuits）。

第二是「編輯」：在理解了模型內部機制後，工程師可以精準地修改特定特徵的激活模式，從而改變模型的行為——例如抑制導致幻覺的特徵迴路，或增強事實性回答的相關特徵。這種「精確手術」式的模型修改，比傳統的微調（fine-tuning）更高效、更可控。

第三是「監控」：MDE提供即時的模型內部狀態監控儀表板，在模型運行時追蹤關鍵特徵的激活情況，及時發現異常行為模式——例如當模型即將產生幻覺時，某些特徵迴路會呈現特定的激活模式，系統可以在回答生成前進行攔截。

幻覺率降低50%：可解釋性的實戰成果

Goodfire最引人注目的成果之一，是透過可解釋性引導的訓練方法（interpretability-informed training），將AI模型的幻覺率降低了50%。這一結果已在多個基準測試中得到驗證，並在合作夥伴的實際部署環境中獲得確認。

傳統的幻覺抑制方法通常依賴於大量的人類反饋標註（RLHF）和事實核查數據集，成本高昂且效果有限。Goodfire的方法則不同：他們首先利用MDE識別出模型內部負責「事實回憶」和「創造性生成」的不同特徵迴路，然後在訓練過程中有針對性地加強事實回憶迴路、抑制過度創造性生成的迴路。這種「從內部理解問題，然後從內部解決問題」的策略，代表了AI模型優化的新範式。

逆向工程生物模型：AI可解釋性的意外收穫

Goodfire最令人驚嘆的應用案例來自生物醫學領域。與Arc Institute（由Patrick Collison、Silvana Konermann創立的生物醫學研究機構）合作，Goodfire團隊將其可解釋性工具應用於一個用於預測阿茲海默症進展的生物AI模型。

透過逆向工程這個模型的內部特徵表示，研究人員發現模型在做出預測時高度依賴幾個此前未被注意到的生物特徵組合。進一步的生物學驗證表明，這些特徵組合對應著一組全新的阿茲海默症生物標記（biomarkers），它們在疾病早期階段的表達變化比已知標記更為敏感。

這一發現的意義超越了AI技術本身——它表明可解釋性工具不僅能幫助我們理解AI，還能幫助我們透過AI理解世界。當我們打開AI的黑箱時，有時會發現AI在數據中發現了人類尚未注意到的模式。目前，Mayo Clinic正在進行臨床驗證研究，以確認這些新生物標記的診斷價值。

合作生態與市場定位

Goodfire已建立起強大的合作夥伴網絡。除了Arc Institute和Mayo Clinic之外，Microsoft也是其重要合作夥伴——Azure AI平台正在整合Goodfire的可解釋性工具，使企業客戶能夠在部署AI模型時獲得更深入的透明度和可控性。

可解釋性市場的爆發

Goodfire的崛起反映了AI可解釋性市場的快速擴張。隨著歐盟《AI法案》、美國行政命令以及各國監管框架對AI透明度的要求日趨嚴格，企業對可解釋AI工具的需求正在急速增長。市場研究機構預測，全球AI可解釋性市場將在2028年達到200億美元規模，年複合增長率超過40%。

Goodfire的獨特競爭優勢在於其技術路線：大多數可解釋性工具採用「事後解釋」（post-hoc explanation）方法，即在模型做出決策後嘗試解釋原因；而Goodfire的機械可解釋性方法則是真正深入模型內部，理解其運作機制。這兩種方法的差異，就如同在不打開引擎蓋的情況下猜測汽車故障原因，與直接檢查引擎各部件狀態的差異。

展望：打開黑箱只是開始

Goodfire的融資和技術進展，標誌著AI產業的一個重要轉折點。長期以來，AI開發的主流範式是「越大越好」——堆疊更多參數、更多數據、更多算力，但對模型內部機制的理解卻遠遠落後。Goodfire正在挑戰這一範式，它認為理解AI不僅是安全部署的前提，更是構建更好AI的途徑。

如果50%的幻覺率降低只是開始，那麼可解釋性引導的AI開發可能帶來的改進空間是巨大的。想像一下：如果我們能精確地理解模型在何處以及為何犯錯，就能針對性地修復這些問題，而不是盲目地增加訓練數據和模型規模。這不僅能提升模型品質，還能大幅降低訓練成本和能源消耗。

監管壓力與合規機遇

歐盟《AI法案》已明確要求高風險AI系統必須具備「充分的透明度」和「可解釋的決策機制」。美國的多個州也在推進類似立法。這些監管要求為Goodfire這樣的可解釋性工具公司創造了巨大的合規驅動需求——企業不再只是「想要」理解AI，而是「必須」理解AI。

AI的黑箱問題或許是這個時代最重要的技術挑戰之一。Goodfire的1.5億美元融資和12.5億美元估值，表明市場和投資者已經認識到了這一點。打開黑箱不僅關乎安全，更關乎AI技術的下一個飛躍——而Goodfire正在引領這場從「盲目堆疊」到「深度理解」的範式轉移。