砸下數十億美元打造AI安全防線 OpenAI仍然還有安全漏洞

兩組安全研究人員近期發現了OpenAI系統中的安全漏洞。這些事件也顯示，即使是投入大量資源進行AI安全研究的公司，也可能面臨AI系統本身帶來的安全風險。

其中，Hacktron研究團隊發現了兩個漏洞，並利用Anthropic的Claude協助分析和完善攻擊路徑，最終獲得多個OpenAI員工ChatGPT賬號的訪問權限，並進一步進入內部系統。

與此同時，Accomplish的研究人員也發現了兩種繞過OpenAI Codex沙箱限制的方法。

重點

• Hacktron發現兩個嚴重漏洞，並獲得多個OpenAI員工ChatGPT賬號的訪問權限。

• 研究人員隨後可以訪問OpenAI內部代碼倉庫以及其他可能連接的系統。

• Hacktron利用Anthropic的Claude協助進行漏洞分析、偵察和漏洞利用開發。

• Accomplish發現兩種繞過OpenAI Codex沙箱限制的方法。

• OpenAI在收到報告後的8天內修復了這兩個問題。

• 研究人員沒有竊取敏感數據，也沒有進行惡意操作。

• 網路安全研究人員Vibhum Dubey表示，企業不應把沙箱視為無法突破的安全屏障。

• 他認為，AI系統需要更多安全措施，傳統的軟體安全方法可能並不足夠。

Hacktron藉助Claude測試OpenAI安全性

2026年7月25日，Hacktron研究人員Harsh Jaiswal、Mohan Pedhapati和Rahul Maini披露了兩個影響OpenAI系統的嚴重漏洞。

研究人員首先發現一個圖像處理庫存在漏洞，可以讓攻擊者遠程執行代碼。在取得初步訪問權限後，他們進一步獲得了身份驗證令牌，並利用這些令牌訪問其他連接的系統。

研究人員使用OpenAI員工賬號進行了測試，但沒有進一步竊取敏感數據。整個研究是在協調漏洞披露機制下進行，相關漏洞在報告後獲得修復。

這次事件特別受到關注的原因之一，是研究人員在過程中使用了Anthropic的Claude。

根據Hacktron的說法，Claude協助他們分析漏洞、進行偵察、改進攻擊路徑以及開發漏洞利用方式。

換句話說，一家AI公司的模型被研究人員用來幫助尋找另一家AI公司的安全漏洞。

Accomplish發現兩種Codex沙箱逃逸方式

另一組來自Accomplish的研究人員發現了兩種繞過OpenAI Codex編碼代理沙箱限制的方法。

這兩個漏洞都在8月12日向OpenAI報告，並在8天內得到修復。

Accomplish首席安全研究員Oren Yomtov表示，這些問題與AI代理、其指令以及可使用工具之間的互動有關。這些互動可能讓AI代理突破原本設定的限制，與外部系統進行交互。

這也反映出AI代理目前面臨的一個重要安全問題：如何確保AI始終在規定範圍內行動。

與傳統聊天機器人不同，AI代理可能具備運行代碼、讀取文件、使用工具以及連接其他系統的能力，因此它們可能面臨更大的攻擊面。

身份和權限控制非常重要

這兩起事件也凸顯了身份驗證和權限管理的重要性。

在Hacktron的測試中，研究人員在最初取得遠程代碼執行權限後，進一步獲得身份驗證令牌，並利用這些令牌訪問其他連接的系統。

Dubey表示，每一個AI代理都應該擁有獨立身份，並且只獲得完成工作所需要的最低權限。同時，企業也應該限制網路訪問、定期更換憑證，並記錄AI代理的活動。

這樣做可以降低一個被攻破的AI代理進一步進入企業其他系統的風險。

沙箱並不是絕對安全

Dubey也提醒企業，不應該把沙箱當成完全無法突破的安全屏障。

如果AI代理能夠讀取或寫入數據、運行代碼，或者與其他系統進行連接，那麼企業就需要設置額外的安全措施，以應對沙箱被突破的情況。

換句話說，企業不應該只依賴沙箱，而應該建立多層安全防護。

即使AI代理最終被攻破，也應該儘量把影響控制在有限範圍內，避免漏洞進一步擴散到整個企業網路。

這並不只是OpenAI的問題

研究人員和Dubey都強調，這些發現並不意味著AI安全問題只存在於OpenAI。

隨著越來越多企業使用能夠讀取文件、運行代碼和連接內部系統的AI代理，AI系統的潛在攻擊面也正在擴大。

Dubey表示，傳統的軟體安全方法可能不足以應對這類系統，因為AI代理的運行方式與傳統軟體存在明顯不同。

因此，企業面對的挑戰不僅是防止AI系統被攻破，更重要的是，即使某個AI代理被攻破，也不能讓它進一步影響整個企業的IT基礎設施。

OpenAI在收到Hacktron的報告後修復了相關漏洞，並在8天內修復了兩個Codex沙箱漏洞。這些事件也顯示，隨著AI代理變得越來越強大，如何安全地部署和控制這些系統，將成為企業面臨的重要挑戰。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。