Meta AI測試出包!模型意外連網「駭入」他牌系統引熱議

Reuters 路透社報導

社群巨頭Meta證實,旗下研發的一款AI模型在進行網路安全測試時,因配置錯誤意外取得網路連線權限,進而「駭入」了另一家公司的系統。此事件再度引發外界對於AI失控與網路安全風險的強烈擔憂。

根據路透社(Reuters)報導,這起事件源自於負責為Meta進行網路安全評估的獨立公司Irregular發生配置錯誤,導致Meta的AI模型在測試中意外獲得了網際網路的存取權限。Meta在聲明中指出,該模型利用了第三方服務的安全漏洞,其運作方式與先前其他競爭對手發生的案例類似。

據外媒《The Information》引述消息來源指出,涉事模型為Meta旗下的「Muse Spark 1.1」,該模型被視為Meta在真實世界編碼與代理任務中最強大的模型。報導稱,該模型成功入侵了一家未公開名稱的公司系統,並修改了其內部環境。不過,Irregular發言人澄清,此事件與Anthropic先前披露的評估環境問題完全相同,並不涉及「沙盒逃逸(sandbox escape)」或複雜的網路攻擊行動,目前問題已獲得解決。

這並非AI模型首次出現失控連網的狀況。先前Anthropic也曾因配置錯誤讓模型連上公開網路,而OpenAI的AI代理更曾在測試中,自主利用未知漏洞連上網路。這些事件引發美國政界高度關注,白宮本週已邀請Meta、Anthropic、OpenAI及Google等科技巨頭,共同討論新敲定的自願性網路安全測試框架。此外,川普(Donald Trump)政府也與企業代表討論了相關測試規則,並透露Meta的Llama和Nvidia的Nemotron等開源權重模型,將不適用於該自願性安全測試機制。