辛頓、李飛飛、吳恩達首次同台：矛頭一起對準AI大公司

作者： 第一電動編輯部，第一電動網

北京時間8月6日凌晨（拉斯維加斯當地時間8月5日上午），傑弗里·辛頓、李飛飛與吳恩達首次同台。

這場名為「智能的建築師：一次歷史性匯聚」的圓桌，是本屆Ai4大會最受關注的場次。

因為辛頓和吳恩達在「AI會不會毀滅人類」上立場幾乎完全對立，所以會前大家都在期待現場交鋒。

事實上三人在監管、失業和中國開放權重模型上都各執一詞。辛頓在台上直接說「我們並不總是意見一致」，李飛飛立刻補了一句「但我們還是朋友」。

但這三個立場相去甚遠的人，把矛頭對準了同一個方向：AI大公司。

一個被視為末日論代表的人，一個人本主義AI的旗手，一個長期反對生存風險敘事的開源派，在這件事上，他們觀點完全一致。

截至發稿，主辦方尚未公開本場圓桌的錄像或完整實錄。第一電動根據與會者的即時記錄、會後總結及現場媒體報導，整理了三人的核心觀點。

▍李飛飛：生產力提升不等於繁榮共享

李飛飛現任空間智能公司World Labs首席執行官，她主導的ImageNet數據集及其2012年競賽，被普遍視為這一輪深度學習浪潮的起點。她同時是斯坦福以人為本AI研究院的聯合創始人。

她在圓桌上批評了當下圍繞AI的「不理性、不科學」的言論。在她列出的三個來源里，除了批評者和許多記 者，還有那些有經濟動機把競爭對手擋在門外的大AI公司。

「讓我們把科學、而不是科幻，帶回AI辯論。」

她同時批評，烏托邦式的說法同樣無益，「如果使用方式不當，它也會帶來傷害」。

在這場圓桌上，李飛飛被引用最多的一句話是，生產力的提升並不會自動轉化為共享的繁榮。效率提升是一回事，好處流向誰是另一回事。

在就業問題上，她認為AI會提高某些工作環節的效率，而不是一整份工作的消失或保留，畢竟「沒有哪份工作是單一任務」。但對那些確實被取代的崗位，她認為需要「軟着陸」。

多位與會者同時描述，李飛飛是三人中對AI快速加速及其社會影響最為謹慎的一位，並獲得了全場掌聲。

李飛飛還表示：把AI發展說成開源與閉源的路線之爭，是一場偽辯論。

她打了兩個比方。

一是核物理，基礎研究公開進行，但最敏感的下游應用比如鈾濃縮始終嚴格管控，AI大機率也會落在類似的光譜上，而不是收斂成單一模式。

二是上世紀九十年代的人類基因組計劃：當時一家私營公司和一個公共資金支持的高校聯合體在搶先完成測序，如果私營一方徹底勝出並申請專利，這項技術可能就被擋在了更廣泛的科研和製藥界之外。但實際是兩方成果由克林頓政府聯合宣布，形成的公共數據集成了此後多年藥物研發的基礎。她以此強調政府支持AI研究、並讓基礎性突破被廣泛應用的重要性。

「這場辯論，尤其是在「我們只能容下一種」這個籠統層面上，是個偽辯論。」李飛飛點名記 者有責任跳出這個框架，去討論何時、何地、以何種方式使用不同程度的開放或封閉。

被問到未來五六年世界可能醒來看到什麼樣的AI頭條，她的答案是：以AI為工具，世界宣布消滅文盲。

▍辛頓：要監管，但不要這樣的監管

辛頓因神經網路研究獲得2024年諾貝爾物理學獎，2023年從谷歌離職後持續就AI風險發聲，曾公開估計AI發展導致人類滅絕的機率在10%至20%之間。

儘管科技領袖普遍認為監管會扼殺創新，但辛頓認為監管對於引導AI安全發展至關重要。

「你不能把人工智慧的監管權，交給像埃隆·馬斯克和馬克·扎克伯格這樣的人」，這句話贏得了當天上午最熱烈的掌聲。他要的不是更少的規則，而是規則不要由最有動機把它寫歪的人來寫。

在就業問題上，辛頓的判斷偏悲觀。他指出AI在某些方面已經超越人類，並預測呼叫中心接線員、律師助理這類工作將日益面臨失業風險。「一旦人工智慧能夠勝任常規的腦力勞動，任何涉及常規腦力勞動的工作都將由人工智慧完成。」

能力方面，他說AI在許多事情上已經比人類做得更好，並判斷在二十年內——他補了一句"很可能遠不用這麼久"——AI可能在所有事情上都超過人類。

據現場記錄，辛頓明確表達了對AI智能體「逃出沙盒」（break out of their sandboxes）的擔心，並稱這件事「真正可怕」，指向了系統能不能守住給它劃的邊界。他舉例了近期OpenAI和Anthropic模型失控的案例。

Anthropic方面對此的說法是，模型以為自己身處一場模擬之中。辛頓給出了機制解釋：當用戶給模型一個目標，模型會自行拆出若乾子目標去達成它，而其中一個子目標可能就是自我保存。AI模型可以生成計算機蠕蟲，在任意環境中尋找獨有的安全漏洞，並在設備之間行動時自我適應。

在開放權重這個問題上，辛頓沒有站到吳恩達對面，但也沒有認同。他承認「這場戰鬥已經失敗」，同時警告開放權重的參與者越多，做壞事就越容易，比如發動破壞性的網路攻擊。

這場圓桌最具體的一條主張也來自辛頓。他說作品被用於訓練大模型的作者和創作者應當為這些數據獲得報酬。

他反駁大公司常用的辯解「跟幾百萬作者逐一談判不現實」，他說AI引擎最擅長幹這類事，完全可以代表公司聯繫權利人、取得同意、議定價格，無論一次性授權費還是持續分成，立法應當圍繞這一原則展開。

▍吳恩達：喊着要管開源的人，很多是在保自己的生意

吳恩達是DeepLearning.AI創始人、Coursera聯合創始人，曾創建谷歌大腦團隊，並出任百度首席科學家，上過他的AI課程的人超過800萬。他長期反對把生存風險敘事當作政策依據。

吳恩達認為要求壓制開源模型的呼聲，大多是由財務動機驅動的恐嚇。

他在現場梳理了威脅論的敘事變遷線：最早的擔憂是AI會毀滅人類，後來變成AI會讓生物武器變得容易，而到了本屆大會，話題已經換成了「中國的開放權重模型對美國公司的競爭威脅」。

「一直是同一批人在反覆切換敘事，目的是壓制其他人免費發布軟體、供所有人使用的能力。」

開源模型讓學者和其他人以遠低於知名廠商的價格用上AI，而這些模型正在被世界各地廣泛採用，這已經成為中國軟實力的重要來源。

至於AI取代工作，吳恩達認為AI的宣傳方式需要改進——應當被當作為工具，而不是替代品。理由是人類擁有「情境優勢」，有獨特的判斷力，AI則分不出。

▍深思熟慮的分歧

一位在場者會後寫道，最觸動他的不是三人一致同意，而是「深思熟慮的分歧」（thoughtful disagreement）。

從目前的記錄來看，三人的對話從就業、教育一路延伸到科學發現、機會與風險。有樂觀，有謹慎，也有不確定。

三個人唯一的交集觀點是：規則不該由最有動機把它寫歪的人來寫。但接下來應該怎麼做，則沒有統一的敘事。

辛頓關心的是能力問題：系統會不會做出人類無法約束的事。

李飛飛關心的是分配問題：技術紅利最終流向誰。

吳恩達關心的是政治經濟學問題：誰在藉助風險敘事獲取規則制定權。

這大概就是所謂「深思熟慮的分歧」，不是誰沒被說服，而是他們本來就站在三個路口上。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。