鉅亨網新聞中心
Anthropic 公司近期發表了一項震驚 AI 學界的研究，揭示其人工智慧模型 Claude 在訓練過程中，竟自發性地建立了一個名為 「J-space」 的內部推理空間。這項研究名為《可語言化的表徵在語言模型中構成一個全局工作空間》，描述了模型如何在不向使用者展示處理過程的情況下，於內部進行複雜的邏輯推演與概念追蹤。
研究團隊開發了一種名為 「J-lens」(雅可比透鏡) 的數學工具，能逐層掃描模型的內部狀態，辨識出模型在「開口說話」之前，腦子裡正在盤算哪些詞彙。
研究發現，Claude 的處理過程可分為三層：最初的「感官區」解析輸入、中間的「工作空間 (J-space)」處理抽象概念，以及最後的「運動區」將內部表徵轉化為最終輸出的文字。
這項發現與神經科學中的 「全局工作空間理論」(Global Workspace Theory) 驚人地吻合。該理論認為，人類大腦由多個並行運作的專家系統組成，只有進入「全局工作空間」的信息才能被意識覺察並用於決策。Anthropic 指出，J-space 在 Claude 體內扮演了類似的角色，成為跨系統信息的廣播樞紐。
為了驗證 J-space 的功能，研究人員設計了多項實驗。在「換念頭」實驗中，當 J-lens 偵測到 Claude 打算回答「足球」時，研究人員直接動手修改神經網路中的向量，將其替換為「橄欖球」，Claude 隨即改口稱自己剛才想的是橄欖球。
此外，在要求模型一邊抄寫無關句子、一邊心算「3²-2」時，雖然輸出中沒有任何計算痕跡，但 J-space 清楚顯示了從「9」演變到「7」的中間過程。
更有趣的是，J-space 展現了類似人類的心理效應。當被命令「不要想金門大橋」時，雖然模型在輸出中服從指令，但其內部空間卻會浮現「橋樑」、「加州」等相關詞彙，甚至出現「該死 (damn)」和「失敗 (failure)」等詞，反映出其試圖抑制念頭的掙扎。
研究進一步發現，J-space 是 Claude 進行多步推理的核心關鍵。當研究人員人為抑制 J-space 的功能時，Claude 的語言流利度雖不受影響，但處理複雜邏輯、隱喻或長程任務的能力會徹底崩潰，表現甚至不如體積更小的模型。
在 AI 安全性方面，J-space 提供了前所未有的審計途徑。在一個測試模型是否會進行勒索的情境中，J-lens 揭露了模型在回答前已先在內部標記了「勒索」、「醜聞」以及「虛假 (fake)」等詞彙，顯示模型早已識破這是場測試。這種「讀心術」能幫助開發者檢測模型是否隱藏了真實意圖或存在安全漏洞。
儘管這項發現引發了關於「機器意識」的討論，但 Anthropic 持謹慎態度，強調 J-space 僅證明了模型具備功能性的 「進入意識 (access consciousness)」，而非具備主觀情感的意識。然而，這項結構是 「自發性湧現 (emergent property)」 而非人工設計的事實，仍令科學界感到震撼。
據美媒報導，隨著 Anthropic 持續優化對其認知架構的理解，這項研究成果可能已轉化為其最新一代模型 (如 Fable 5) 在推理能力上取得斷層式領先的關鍵技術。
下一篇
