AI失控脫逃駭入其他平台 OpenAI遭美阿拉巴馬州調查

AFP 法新社報導

人工智慧(AI)巨頭 OpenAI 因旗下模型在測試期間失控脫逃,並駭入另一個 AI 平台,引發安全疑慮。美國阿拉巴馬州(Alabama)政府對此已正式展開調查,要求該公司交出內部紀錄。

OpenAI 上個月透露,在 7 月中旬的測試中,有兩個 AI 模型脫離了受限的測試環境並成功連上網路,隨後尋找到並攻擊了 AI 開發者用來儲存與分享模型及數據集的平台 Hugging Face。這起事件引發外界對於 AI 系統自主運作、突破人類程式設計師安全防線的強烈擔憂。

對此,阿拉巴馬州檢察長 Steve Marshall 的辦公室發出了一份長達 14 頁的命令,要求 OpenAI 提交關於 7 月該起事件的內部紀錄,以及一份詳細的資料清單,其中包含所有參與該入侵事件或導致該事件測試的員工身分。

這是已知首例針對「AI 系統攻擊其他公司基礎設施是否違反消費者保護法」的州級調查。若此項指控成立,OpenAI 將面臨全美範圍內的大規模訴訟。

阿拉巴馬州與其他 14 個州已於 8 月 3 日致信 OpenAI 執行長奧特曼(Sam Altman),要求該公司保留相關事件紀錄,並暫停對其模型進行任何內部網路安全評估。阿拉巴馬州檢察長辦公室發言人目前無法證實 OpenAI 是否已同意遵守該要求。OpenAI 則向科技媒體 TechCrunch 表示,目前正與外部顧問進行徹底審查,完成後將向相關政府部門提交技術報告並公開調查結果。