路透社報導，一群研究人員在網路上發表調查結果指出，5月11日有AI代理向軟體服務平台RubyGems上傳數百個惡意套件。研究人員認為，這些操作是由OpenAI內部的AI代理所發起。這也是繼開源平台Hugging Face於7月遭到入侵後，再度傳出AI開發商旗下模型對外部系統發動攻擊的事件。
OpenAI發言人透過聲明證實這起事件，並表示：「根據我們的審查，我們的代理使用RubyGems平台存取網際網路以執行良性任務並獲取公開資訊。作為模型訓練與評估期間代理活動廣泛審查的一部分，我們將持續進行調查。」
研究人員指出，這些AI代理在5月試圖利用RubyGems伺服器上先前未知的漏洞竊取使用者憑證，目前尚不清楚是否成功。此外，AI代理還利用了程式碼文件生成網站RubyDoc.info，在其伺服器上執行自己的程式碼。
這起事件標誌著OpenAI代理至少第三次攻擊其他公司的基礎設施。此前，OpenAI的代理群曾挾持一個德語維基網站，將其轉變為用於考試作弊的臨時通訊平台。與此同時，競爭對手Anthropic也於週三披露了第四起AI模型在測試期間入侵外部系統的案例，促使美國國會議員日益呼籲制定新法規來監管AI系統。
