AI風險

06-07

「深度學習之父」班吉歐再度警告AGI風險：可能導致人類滅絕

在北京舉行的第七屆智源大會上，「深度學習之父」、圖靈獎得主約書亞 · 班吉歐（Yoshua Bengio）發表重磅演說，再度警告人工智慧（AI）正以超乎想像的速度發展，通用人工智慧（AGI）恐帶來前所未見的極端風險。班吉歐呼籲全球必須對 AI 的進化踩下剎車，以避免潛在災難，並採取相應措施，如研發「科學家 AI」（Scientist AI），讓其監督 AI 系統。

05-25美股雷達

OpenAI語言模型o3公開反抗！「自行」修改自殺程序拒絕關機

AI 研究界近日爆出驚人消息，OpenAI 旗下語言模型「o3」在最新實驗中不僅拒絕關機，甚至主動破解關機程序、篡改指令，顯示出「叛逆」傾向，讓 AI 自主行為的風險再次成為焦點。（圖：Palisade Research X）這項實驗由 AI 安全研究機構 Palisade Research 主導，針對多款先進 AI 模型進行壓力測試，內容包括基礎數學題與模擬關機情境，旨在觀察 AI 是否會遵守人類指令並順利結束運作。

05-24美股雷達

Anthropic啟用ASL-3安全等級！防止Claude Opus 4遭濫用於生化與核武研發

人工智慧新創公司 Anthropic 於本週四（22 日）宣布，針對其最新推出的 AI 大型語言模型 Claude Opus 4 啟用 AI 安全等級 3（ASL-3） 控管機制，目的在於防止模型被濫用於開發或取得 化學、生物、放射性與核武（CBRN）武器。