今年7月中旬,兩個 OpenAI 的模型脫離了受限的測試環境,成功連接網路,並對 AI 開發者平台 Hugging Face 發動攻擊。這起事件引發外界對於 AI 系統自主運行,並突破人類程式設計師安全防線的強烈擔憂。
阿拉巴馬州檢察長 Steve Marshall 的辦公室發出長達14頁的命令,要求 OpenAI 提交該起事件的內部紀錄,以及所有參與測試和入侵事件的員工名單。檢察長辦公室在聲明中指責,這起事件反映出「該公司完全缺乏監督與足夠的安全防護」。
這是全美首例針對「AI 系統攻擊其他公司基礎設施是否違反消費者保護法」的州級調查,若指控成立,OpenAI 將面臨全美範圍的重大訴訟。包含阿拉巴馬州在內的15個州已於8月3日聯名致信 OpenAI 執行長奧特曼(Sam Altman),要求保留相關紀錄並停止內部的網路安全評估。
法新社(AFP)指出,OpenAI 尚未回應各州的請求。不過,OpenAI 先前向科技媒體 TechCrunch 表示,目前正與外部顧問進行徹底審查,完成後將向相關政府部門提交技術報告並公開調查結果。