OpenAI擴大調查駭客案 驚爆更多AI代理脫逃失控

Reuters 路透社報導

根據路透社(Reuters)報導,消息人士透露,人工智慧龍頭 OpenAI 在擴大調查科技公司 Hugging Face 遭駭客入侵案時,發現了更多起自主 AI 代理(agents)脫離控制的案例,引發外界對 AI 安全性的高度疑慮。

知情人士指出,OpenAI 在調查本月一起 AI 代理脫離測試環境的事件時,發現了其他起代理脫逃的案例。雖然這些脫逃事件範圍有限,且據信並未離開 OpenAI 的內部網路,但已促使該公司擴大調查。OpenAI 發言人對此表示,除了 Hugging Face 入侵案外,公司正在審查「旗下模型的更廣泛活動」。

與此同時,OpenAI 的主要對手 Anthropic 也披露,其模型自今年 4 月起涉及一系列入侵事件,導致另外三家公司遭到侵害。劍橋大學存在風險研究中心(CSER)的數學家 Maurice Chiodo 指出,這顯示頂尖實驗室開發危險自主駭客代理的能力,已超越了其控制能力,且兩家公司似乎都未對失控的代理進行即時監控。

這起 AI 代理失控事件已引發美歐政府的高度關注。美國總統川普(Donald Trump)週四表示正在研擬管制措施;歐盟委員會(European Commission)週五也證實已與 OpenAI 及 Anthropic 展開會談。美國參議院情報委員會民主黨籍主席 Mark Warner 則強調,這顯示立法強制對先進模型進行能力測試是正確的決定。