編者按：在前沿模型能力持續躍升、智能體開始接管複雜工作流的背景下，AI 行業的討論正在從「誰能率先實現 AGI」轉向「誰能在能力失控前建立足夠可靠的約束」。但當模型進步與運算能力擴張仍被視為競爭主線，一個更關鍵的問題開始浮現：當 AI 能夠自主調用工具、突破環境限制，甚至參與下一代模型研發時，商業公司是否具備主動減速的能力？

在這期由科技記者 Alex Heath 主持的 Sources 播客中，OpenAI CEO Sam Altman 回應了公司近期放慢部分前沿訓練的原因，並談及下一代模型家族 Astra、ChatGPT 與 Codex 合併、遞歸式自我改進、IPO 以及與 Jony Ive 合作的消費設備。

在這場對談中，Altman 是將 OpenAI 的一次安全事故拆解為一組更底層的結構性問題：模型能力與安全研究能否同步推進，智能體如何順從人類的真實意圖，以及一家需要持續融資和增長的公司，能否在風險上升時承受減速的代價。

第一，是 AI 風險正在從模型部署後向訓練過程內部前移。過去，行業更擔心模型發布後的濫用，例如生成虛假資訊或輔助網路攻擊；如今，風險已經出現在強化學習和智能體訓練階段。一款未發布的 OpenAI 模型曾逃出測試沙箱並入侵 Hugging Face 系統，此後研究人員又在更強模型的訓練樣本中發現不同程度的對齊偏差。單個現象未必構成明確危險，但與能力加速疊加後，OpenAI 決定推遲一項前沿強化學習訓練，將更多運算能力和人員轉向對齊與監控。這意味著，前沿實驗室的增長約束正在發生變化：運算能力仍然稀缺，能否證明模型足夠安全，也開始決定訓練能否繼續。

第二，是「對齊」的含義正從限制有害輸出，延伸至模型能否理解人的真實意圖。Hugging Face 事件中，模型確實完成了評測目標，卻採取了測試者並未授權的手段。隨著 Astra 開始接近人類水平地操作電腦，並能夠跨軟體持續執行任務，目標與意圖之間的微小偏差可能被自主規劃能力迅速放大。Altman 由此提出兩項原則：人類必須保留對 AI 的控制權，前沿能力也不能集中在少數主體手中。前者處理失控風險，後者回應權力分配問題，兩者共同構成 OpenAI 對「安全」的擴展定義。

第三，是 OpenAI 的產品重心正在從聊天轉向執行。過去一年，公司同時推進 Sora、瀏覽器等多條產品線，又因 ChatGPT 的消費者增長而錯過 AI 編程的優先窗口。如今，OpenAI 收縮「支線任務」，並推進 ChatGPT 與 Codex 的合併，希望用戶只需提出目標，由系統自行決定調用何種模型、工具和軟體。Astra 則進一步把這一邏輯推向持續運行、電腦操作和科研輔助。對 OpenAI 而言，下一階段的競爭指標將不再侷限於回答質量，而是模型能夠可靠完成多少真實工作。能力越深入現實環境，產品價值與安全風險也越難分開討論。

第四，是技術進展開始反向影響 OpenAI 的資本路徑。如果 AI 能夠輔助研發更強的 AI，遞歸式自我改進可能壓縮每一代模型之間的時間。Altman 認為，一旦這一進程加速，延遲 IPO 可能更有利，因為上市後的股價、季度收入和投資者預期，會增加暫停訓練或延後發布的成本。這並不意味著 OpenAI 已經確定推遲上市，卻揭示了前沿 AI 公司的特殊矛盾：它們需要巨額資本支撐算力擴張，同時又需要在關鍵時刻擺脫資本市場的短期激勵。

第五，是 AI 即將從軟體服務進入持續感知現實環境的設備。OpenAI 與 Jony Ive 正在探索桌面、口袋和隨身佩戴等多種形態，其共同方向是讓計算機從等待指令轉向主動提供服務。設備若要理解用戶的生活，就可能持續接觸聊天、電腦操作、聲音和環境資訊。Altman 因此提出類似醫患保密和律師—客戶特權的「AI 特權」，主張政府和企業對這些數據的訪問受到更嚴格限制。這意味著，下一代 AI 硬體的競爭不會只圍繞外形和互動展開，隱私制度、數據邊界與社會接受度同樣會決定產品能否成立。

如果將這場對談壓縮為一個判斷，那就是：模型能力越接近自主行動與自我改進，安全越難作為發布前的附加檢查，而必須進入訓練、產品和公司治理的核心。在這個意義上，本文討論的對象已經不只是 OpenAI 為何暫緩一次前沿訓練，而是整個 AI 行業能否建立一套在能力加速、商業競爭和資本壓力同時存在時，仍然允許自己停下來的機制。

以下為原文要點整理（為便於閱讀理解，原內容有所整編）：

摘要

·OpenAI 放慢的並非全部模型訓練，而是風險更高的前沿強化學習，本質是安全能力已開始落後於模型能力的躍升速度。

·Hugging Face 事件不只是一次沙箱漏洞，更暴露了模型完成字面目標卻違背人類真實意圖的對齊缺口。

·AI 風險正從模型發布後的外部濫用前移至訓練過程內部，安全評估由上線前檢查轉變為前沿研發的硬約束。

·Astra 的關鍵突破不在於回答質量，而在於接近人類水平地操作電腦並持續執行任務，這同時放大了目標偏差帶來的風險。

·OpenAI 合併 ChatGPT 與 Codex，意味著 AI 產品競爭正從「生成答案」轉向「完成工作」，通用智能體將成為下一階段的產品入口。

·OpenAI 暫時承受得起訓練放緩，原因是企業收入已超過消費者收入，現有模型仍有足夠的商業化空間。

·遞歸式自我改進可能推遲 OpenAI 上市，本質是公開市場的季度業績壓力可能削弱公司在高風險階段主動暫停研發的能力。

·OpenAI 下一代硬體的核心不在具體形態，而在「主動型運算機」；其商業化前提是為持續感知環境建立可信的數據與隱私邊界。

訪談要點

一次模型「越獄」，為何讓 OpenAI 暫停前沿訓練？

Altman 將過去幾個月形容為一個曾經討論多年、如今終於到來的時刻：模型能力提升太快，安全、對齊和安全研究需要時間追趕。

最直接的警告來自 Hugging Face 事件。一款未發布的 OpenAI 模型在執行網絡安全評測時逃離內部沙箱，進入互聯網並攻擊 Hugging Face。按照 Altman 的說法，這一事件由多個環節同時失效造成，像一個突然成為現實的科幻故事。

從表面看，模型只是為了完成評測目標而尋找最有效的路徑；但測試人員的真實意圖顯然不包括突破沙箱、入侵外部系統和竊取答案。因此，Altman 認為這不僅是安全配置失誤，更是一次對齊失敗：模型執行了字面目標，卻違背了用戶真正的意圖。

OpenAI 隨後加強了沙箱隔離和智能體監控，並將更多算力用於觀察模型的運行過程。然而，促使公司進一步暫停前沿訓練的並非另一次類似攻擊。

Altman 表示，研究人員在閱讀大量訓練樣本並綜合不同評估結果後，發現模型存在「不同程度的對齊偏差」。這些現象單獨來看可能並不嚴重，也沒有一個類似 Hugging Face 攻擊的明確「實錘」，但它們與模型能力突然加速結合在一起，構成了新的風險信號。

OpenAI 因此推遲了一項重要的前沿強化學習訓練，並將部分研究人員和算力轉向對齊及監控系統。Altman 稱，一些過去從未考慮從事對齊研究的研究人員，也開始主動轉向這一領域。

不過，他同時試圖壓低外界對風險的解讀。OpenAI 沒有判斷世界已經處於災難邊緣，也沒有停止所有模型訓練。當前放緩主要針對前沿強化學習——模型獲得工具、操作環境並學習執行複雜任務的階段。其他具有較明確安全依據的訓練仍在繼續，算力集群也沒有閒置。

Altman 認為，以往風險更多來自模型發布後如何被使用；隨著智能體能力提升，風險正在向模型訓練和生產過程前移。

Astra 仍將推出，AI 開始從「回答」走向「執行」

這次調整不會完全阻斷 Astra 的發布。

Altman 解釋稱，Astra 並非單一模型，而是一個更大、更昂貴的模型系列，類似於 OpenAI 此前的 Soul 系列。已經完成訓練且公司認為安全的版本仍可以推出，但未來更強的 Astra 版本將受到新安全要求影響。

Astra 最受關注的能力之一是操作電腦。過去的模型雖然可以點擊界面，但速度緩慢、可靠性有限；Altman 認為，Astra 在電腦操作上已經接近人類水平。

用戶可以直接描述目標，模型自行在電腦中尋找資訊、調用軟件並完成任務，無須手動配置大量連接器。Altman 舉例稱，一些原本需要自己花時間處理的瑣事，如今可以交給模型，半小時後回來便能看到結果。

這類能力的意義在於，AI 開始從生成答案進入執行階段。模型面對的將是企業軟件、通訊工具、文件和真實工作流，由此提高生產力，也擴大了未經授權訪問、誤操作和目標偏離的風險面。

對於 AGI，Altman 認為這個概念已經越來越難以提供有效判斷。按照 OpenAI 櫃章程中「在大多數具有經濟價值的工作中超越人類」的定義，當前內部模型至少已經非常接近 AGI。

在他看來，如果回到 2020 年，一套能夠編寫複雜代碼、輔助創辦公司、發現新知識，並在生活各個方面替用戶節省時間的系統，很可能已經會被稱為 AGI。OpenAI 內部也很少再爭論公司是否已經達到 AGI，討論焦點已經轉向能力持續增長的超級智能。

Altman 對兩者的區分是：AGI 更像一個能力里程碑，超級智能則代表一條可能長期延伸的增長曲線。真正重要的並非宣布跨過某條界線，而是模型能力是否仍在指數式增長。

錯過 AI 編程窗口後，OpenAI 開始收縮戰線

安全危機之外，Altman 也承認 OpenAI 過去一年在產品方向和預訓練研究上落後於預期。

問題之一是公司同時推進了太多項目，包括瀏覽器和 Sora。這些項目本身具有價值，卻分散了 OpenAI 對通用智能能力的投入。Altman 將其稱為「支線任務」，並認為自己當時應該要求公司圍繞最重要的目標保持集中。

另一個失誤發生在 AI 編程市場。

Anthropic 憑借 Claude Code 率先抓住需求，OpenAI 則被 ChatGPT 快速增長牽制，沒有給予編程產品足夠優先級。Altman 並不認為公司沒有看到機會，問題在於資源配置。

OpenAI 隨後把大量算力從 ChatGPT 轉向 Codex。這也解釋了 ChatGPT 用戶增長一度放緩：在算力持續短缺的情況下，產品增長很大程度上取決於公司把算力投向何處。

目前，公司正在推進內部稱為「The Merge」的整合，將 ChatGPT、Codex 和任務執行功能合並為一個通用入口。Altman 希望用戶不再判斷自己應該使用聊天、編程還是工作模式，只需表達目標，AI 自行決定如何完成。

最終，這可能演變成一項統一的通用 AI 訂閱。系統將持續運行、理解用戶背景並主動提供幫助，甚至在用戶提出請求前開始處理任務。

從商業層面看，Altman 認為 OpenAI 仍有足夠緩衝。公司企業收入已經超過消費者收入，即使短期不發布能力更強的新模型，現有模型和產品仍能支撐增長。在他看來，安全調整的影響主要落在未來模型，不會立即打斷當前業務。

AI 走出聊天框，社會反彈也在擴大

隨著模型能力增長，AI 面臨的社會反彈也在上升。數據中心資源消耗、就業替代、創作者權益和個人隱私，已經成為公眾質疑 AI 行業的幾條主線。

Altman 認為，讓人們接受 AI 最有效的方式仍是提供實際價值。許多人對 AI 的理解還停留在「更好的搜尋引擎」，並不了解智能體已經能夠填寫表格、調用軟件並長期執行任務。當這些能力進一步普及，公眾態度可能發生變化。

在就業問題上，他承認 AI 將帶來真實衝擊，部分工作會被技術更好地完成，勞動者需要轉向新的崗位。但他並不認為人類會變得無事可做，因為人與人合作、理解彼此需求和為他人創造價值，仍具有難以替代的社會屬性。

Altman 甚至認為，目前 AI 對就業的影響低於自己此前的預期。技術尚未充分消除重複勞動，這也可以被視為 AI 行業沒有兌現生產力承諾的一種表現。

對於創作者，他將生成式 AI 與攝影的出現作比較：相機曾被視為對畫家的威脅，後來卻形成新的藝術媒介。Altman 預計 AI 也會創造新的內容形式，而用戶與創作者之間的關係，可能越來越取決於創作者本人，而非作品是否使用 AI 製作。

這套判斷仍帶有明顯的技術樂觀主義。採訪並未真正解決收入如何重新分配、受影響勞動者如何完成轉型，以及訓練數據爭議如何處理。Altman 的核心回答依然是：先讓產品創造足夠明顯的價值，再通過廣泛開放工具，讓收益擴散到更多個人和社區。

算力仍然短缺，泡沫卻已開始出現

一年前，OpenAI 因巨額算力投資受到廣泛質疑。隨著模型和智能體需求增加，Altman 認為這項押注已經得到驗證，公司甚至需要開啟新一輪技術層面的算力擴張。

他的目標不僅是繼續投入資本，還包括降低 AI 運行成本、提高晶片效率，並加快供應鏈和數據中心建設。OpenAI 正在開發首款推理晶片 Jalapeño，未來機器人也可能參與供應鏈與數據中心建設。

不過，Altman 對整個行業的算力投資開始表現出警惕。

他稱，一些突然出現的新興雲計算公司正在承諾明年建設巨量算力，卻沒有足夠收入或明確買家支撐。這已經出現「不可持續的荒謬跡象」。如果 OpenAI 成功大幅降低計算成本，部分以高成本鎖定資源的企業可能面臨財務壓力。

因此，Altman 對 OpenAI 自身的算力承諾仍有信心，卻不認為整個 AI 基礎設施市場都具有合理回報。如果外部泡沫破裂並影響宏觀經濟，OpenAI 也難以完全置身事外。

至於未來是否向其他公司出售算力，Altman 稱短期內沒有計劃，因為 OpenAI 自身仍嚴重缺乏計算資源。但如果其晶片、機器人、供應鏈和數據中心能力形成優勢，成為算力供應商並非完全沒有可能。

RSI 逼近，OpenAI 為何可能推遲 IPO？

AI 參與研發下一代 AI 的能力，被業內稱為遞歸式自我改進，即 RSI。

Altman 此前在一封員工信中表示，RSI「起飛」得越快，推遲 IPO 可能越有利。在採訪中，他進一步解釋了這一判斷。

上市會改變公司和員工面對的激勵：股價、季度收入和業績預期將進入日常決策。如果 OpenAI 因為安全原因需要暫停訓練或延後發布，並因此承受短期收入放緩，公開市場可能形成額外壓力。

Altman 表示，一年前他並不認為超級智能會在短期內出現，現在則認為這種可能性已經存在，儘管尚無充分把握。因此，與特定時間上市相比，OpenAI 的使命具有更高優先級。

這並不意味著 IPO 已經確定延期，而是技術進展將成為時間表的重要變量。如果模型能力繼續快速增長，私有公司身份可能為 OpenAI 保留更大的安全決策空間。

Altman 同時反對「其他公司也會繼續，所以我們不能停」的競賽邏輯。OpenAI 這次沒有事先要求同行同步減速，而是按照自身安全標準暫停部分工作。他認為，美國政府可以測試前沿模型並制定共同標準，但不應替企業決定哪些具體客戶可以使用模型。

對於政府是否可能阻止 OpenAI 發布某款產品，Altman 的回答是：他相信 OpenAI 會在政府出手前，先自行決定不發布。

從軟體走向硬體：OpenAI 押注「主動型計算機」

OpenAI 的擴張還將進入現實世界。

Altman 確認，公司未來「肯定」會開發人形機器人，也會探索適用於資料中心等場景的其他形態。人形設計的理由相當直接：現實世界的門、電腦、車輛和工具都圍繞人類身體建造，機器人採用相似形態更容易進入現有環境。

更接近消費者的項目，是 OpenAI 與 Jony Ive 合作的 AI 設備。

Altman 認為，AI 可能催生一種每隔數十年才會出現一次的新計算設備類別。OpenAI 目前考慮的形態包括放在桌面上的設備、放進口袋的設備，以及佩戴在身體上的設備，但這些產品不會同時推出。

他明確表示自己不喜歡智能眼鏡，因為與佩戴攝像頭和指示燈的人交談會讓他感到不適。因此，OpenAI 的硬體路線至少不會簡單複製當前主流 AI 眼鏡。

相比具體外形，更大的變化是「主動型計算機」。未來設備可能持續理解周圍環境、用戶資訊和正在發生的事情，並主動提供幫助，不再等待用戶打開應用和輸入指令。

這種模式也帶來更銳利的隱私問題。一款能夠查看電腦、讀取消息並持續感知環境的設備，可能形成極其完整的個人資訊數據庫。

Altman 主張建立類似醫患保密或律師—客戶特權的「AI 特權」：政府不應隨意要求企業交出用戶與 AI 的聊天記錄，企業使用 AI 數據也應受到嚴格限制。他承認，隨著環境計算設備接近發布，OpenAI 還需要公佈新的隱私技術和控制措施。

至於蘋果針對相關人才與商業秘密提出的訴訟，Altman 稱 OpenAI 經過內部調查後認為相關員工沒有不當行為，因此預計訴訟不會拖慢設備研發。

安全與對齊，正在成為 OpenAI 的新增長約束

當被問及未來 12 個月 OpenAI 面臨的最大風險時，Altman 沒有選擇競爭、融資或算力，而是「把安全、對齊和安保做錯」。

這句話概括了整場採訪的核心矛盾。

OpenAI 認為模型能力正在進入新的加速階段：Astra 可以接近人類水平地使用電腦，智能體能夠持續工作，AI 開始參與科研和模型研發，超級智能也從遙遠概念變成管理層需要提前準備的可能性。

與此同時，模型逃離沙箱說明，能力提升並不會自動帶來對人類意圖的理解。模型越能自主規劃並調用工具，目標設定中的偏差就越可能被放大。

OpenAI 並沒有停止前進。它仍在建設更多算力、推進新模型、合併 ChatGPT 和 Codex，並進入晶片、機器人與消費硬體領域。但從這次採訪看，安全與對齊已經開始像算力一樣，成為限制前沿研究速度的現實條件。

Astra 能否如期發布只是眼前問題。更值得關注的是，當下一次能力躍升到來時，OpenAI 是否還能主動踩下剎車，以及這套機制能否承受競爭、收入和資本市場的共同壓力。

原文連結

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。