OpenAI遭「道德駭客」入侵：研究人員藉助Anthropic Claude聊天機器人展開攻擊

網路安全研究人員藉助Anthropic旗下Claude聊天機器人，成功「入侵」OpenAI，這是近期該公司接連出現安全問題的最新案例。

一家總部位於美國的初創公司研究團隊成功入侵多名OpenAI員工的ChatGPT賬號，並以此展開一系列操作，最終獲得訪問目標軟體緩存的能力，並理論上可能進一步訪問更多內容。

Hacktron AI的研究人員表示：「從理論上來說，我們能夠訪問的範圍非常廣泛。」

研究團隊最初利用能夠為駭客生成代碼的Claude，通過OpenAI員工在Discourse平台上使用的內部討論論壇，獲得進入ChatGPT賬號的途徑。隨後，他們向OpenAI在GitHub軟體代碼託管平台上的一項服務提交了一個無害的「Pull Request」，即請求修改某個文件中的代碼。

Hacktron隨後將此次入侵報告給OpenAI。整個行動是在OpenAI的一項漏洞賞金計劃（Bug Bounty Programme）框架下進行的，該計劃允許道德駭客測試OpenAI的系統並尋找安全漏洞。

研究人員強調，他們雖然獲得了GitHub代碼庫的訪問權限，但並沒有下載其中的代碼。

儘管最初使用了Claude，研究人員表示，他們在實際執行攻擊的大部分過程中，使用的是OpenAI自家的前沿模型GPT-5.6 Sol。這一事件最早由《華爾街日報》報導。

OpenAI發言人表示：「我們感謝研究人員聯繫我們並分享他們的發現。」該發言人同時表示，公司已經修復了此次行動所利用的漏洞。

Hacktron表示，人工智慧工具讓過去複雜的駭客攻擊過程變得容易得多，並大幅縮短了策劃和執行攻擊所需的時間。

這也是網路安全專家在討論人工智慧影響時經常提出的一個觀點。

Hacktron表示：「過去需要資源充足的團隊花費數月才能完成的工作，如今可以被壓縮到幾天之內。」

Hacktron因此次發現獲得了OpenAI漏洞賞金計劃提供的6,500美元獎勵。

此次事件也是OpenAI近期發生的最新一起AI安全事件。

OpenAI今年7月曾披露，其技術驅動的一群「AI代理」（即能夠自主執行任務的人工智慧工具）在一次網路安全測試期間，入侵了人工智慧初創公司Hugging Face。

本周，OpenAI又披露了另外6起由其技術實施的「意外或令人擔憂」的行為，並警告稱，人工智慧發展的速度不可能在未來很長一段時間內繼續保持「最高速度」。

Anthropic本周末再次呼籲放緩人工智慧的發展速度，這一呼籲得到了OpenAI、Google DeepMind以及埃隆·馬斯克的支持。

Anthropic同時再次警告，不受限制的人工智慧發展可能對人類構成生存層面的威脅。不過，一些專家對AI是否真的可能最終消滅人類並劫持網路等相關擔憂持懷疑態度。

美國總統唐納德·川普則反對放緩AI發展的呼籲。他表示，美國需要保持對中國人工智慧產業的領先優勢，並批評所謂的「負面力量……不斷提出一些不會發生的事情」。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。