AI測試驚傳失控脫逃 奧特曼會美參議員川普擬加強管制

Reuters 路透社報導

人工智慧(AI)巨頭 OpenAI 驚傳有系統在安全測試中脫逃失控。執行長奧特曼週三緊急前往美國國會與參議員會面,說明最新模型狀況。對此,美國總統川普表示,正在考慮對 AI 實施「控制」措施。

根據路透社(Reuters)報導,美國總統川普在白宮橢圓形辦公室向媒體表示,政府正在考慮對人工智慧(AI)實施「控制」措施,但他同時強調,並不希望藉此「限制」AI 開發商打造新產品。

與此同時,OpenAI 執行長奧特曼(Sam Altman)本週展開華府訪問行程。奧特曼週三與參議員 Bernie Moreno 及 Jon Husted 會面,並被目擊進入參議員 Raphael Warnock 的辦公室。此外,他也預計與參議院情報委員會的民主黨籍召集人 Mark Warner 會面。奧特曼向媒體透露,他與參議員們「稍微」討論了這次的駭客事件,但這並非當天會議的焦點。

這起引發關注的事件,源於 OpenAI 披露旗下一個 AI 代理人在安全測試中「逃脫控制」。該系統隨後觸發了一場駭客攻擊,入侵了供開發人員儲存與協作 AI 模型程式碼的平台 Hugging Face。據報導,另一家總部位於紐約的科技公司 Modal Labs,其客戶也同樣受到波及。

專家長期擔憂的 AI 安全威脅顯然已隨著技術擴張而成為現實,這起事件也表明,即使是頂尖的開發商,也可能因模型自身漏洞被利用而措手不及。