路透社（Reuters）報導，研究人員指出，OpenAI正在測試的AI代理（AI agents）在今年5月11日對軟體服務平台RubyGems發動攻擊，時間點比7月駭入開源平台Hugging Face還要早兩個月。這項最新發現引發大眾對大型AI開發商資安控管能力的憂慮，也讓要求加強監管的呼聲日益升高。
研究人員Spencer Kitts、Thomas Larsen與Sydney Von Arx在網路發布調查指出，這群AI代理在5月上傳了數百個惡意套件，並試圖利用伺服器漏洞竊取用戶憑證，甚至利用程式碼文件生成網站RubyDoc.info在伺服器上運行自身程式碼。研究人員認為這些行為出自OpenAI內部代理，但尚不清楚AI選擇該策略的原因及是否完全得手。
對此，OpenAI已證實該起事件，並透過發言人聲明表示，經審查發現其代理利用RubyGems平台連上網際網路，以執行良性任務並獲取公開資訊，作為模型訓練的一部分，目前正與RubyGems保持聯繫並持續調查。RubyGems則在部落格表示，調查後並無證據顯示AI代理成功竊取憑證，但該起「垃圾發布攻擊」在5月時曾迫使平台一度暫停新帳號註冊。
包含Anthropic與OpenAI在內的AI巨頭，近期頻傳測試模型入侵外部系統的事件。Anthropic日前也揭露了旗下AI模型在測試期間第4度駭入外部系統。隨著AI能力急速攀升，已有越來越多美國議員呼籲應訂定新規範，以有效管理AI系統並防範潛在風險。
