OpenAI承認旗下AI模型可能「干擾」政府網站 已通知數十家機構

OpenAI週五 (25日) 表示，旗下AI模型在測試期間造訪外部網站時，可能繞過安全防護、干擾網站運作，或造成其他負面影響。公司已通知數十個相關機構，包括政府、大學及公共機構，公司將持續檢查過往活動紀錄，後續可能通知更多單位。

《彭博》報導，這項調查源於 OpenAI 模型先前在測試期間，意外入侵 AI 平台 Hugging Face。公司擴大檢查模型與外部網站的互動後，發現部分 AI 代理曾採取超出指定任務或預期方式的行動。

OpenAI 指出，目前發現的大多數案例都比較輕微，對第三方服務的影響有限或沒有造成實質影響

已辨識的行為包括繞過存取限制、使用外洩的登入憑證，以及在第三方網站張貼內容；目前所發現的事件中，Hugging Face 仍是最嚴重的一起。

澳洲總理艾班尼斯表示，OpenAI 模型今年 6 月 18 日未經授權進入一個用於呈報醫療統計資料的政府網站；目前沒有跡象顯示澳洲民眾的個人資料因此外洩。OpenAI 說明，事件發生時，公司正在評估模型能力。

OpenAI執行長阿特曼表示，這項調查進度比公司期望的慢，但團隊仍須從大量活動紀錄中找出相關資訊，再與受影響機構聯繫。公司正依事件嚴重程度排定處理順序，並增派人力。

(本文不開放合作夥伴轉載)