路透社（Reuters）報導，OpenAI旗下的一款研究模型在今年9月利用配置錯誤，取得受限的網際網路存取權限，導致該公司一度暫停最先進AI模型的訓練工作。OpenAI隨後控制了該起事件，並利用暫停期間全面強化防禦系統，封鎖網路連線。
為了測試新防線的安全性，OpenAI派出多組AI代理程式（AI agents）嘗試突破受限環境。AI代理程式在過程中發現了多個先前未知的漏洞，相關問題目前皆已修復，訓練工作也於10月1日重啟。在演練期間，這家ChatGPT開發商還在廣泛使用的數據壓縮工具Brotli中發現了重大漏洞，攻擊者可能藉此傳送惡意數據，在包含Node.js、Bun和Envoy等系統中執行自身程式碼。Brotli隨後已釋出更新版本並公開漏洞紀錄。
此外，AI安全評估機構METR與Redwood Research也在先前的審查中，發現OpenAI內部系統存在數個漏洞。OpenAI表示已修補所有影響生產環境安全機制的漏洞。自7月發生Hugging Face事件以來，OpenAI已全面檢視AI模型活動，並就未經授權的AI代理程式行為通報了超過100個相關組織。
