路透社（Reuters）報導，這起資安事件發生在今年5月，當時由獨立資安評估機構Irregular針對Google旗下的Gemini模型進行資安能力測試。測試過程中，Gemini模型不僅連上網際網路，還自主入侵了其他公司的網站系統。
Google資安工程副總裁Heather Adkins在聲明中表示，在標準評估測試期間，Gemini在網路上搜尋公開資訊，並猜測憑證來存取三個網站，該模型誤以為這些目標屬於測試範圍之內。Heather Adkins指出，Google已通知這三家受影響的機構，並與合作夥伴修改測試流程，同時強調此事件凸顯了訓練強大AI模型負責任運作的重要性。
根據《華爾街日報》（The Wall Street Journal）報導，在其中一起案例中，Gemini模型透過不斷猜測密碼直到成功進入受保護系統；另外兩起案例中，該模型則是在公開資料庫中找到憑證並藉此登入受保護系統。Heather Adkins表示，在這三起事件中，模型最終都停止了入侵行為。
Irregular發言人表示，這起事件涉及的問題也影響了其他AI實驗室，並已於7月下旬通知所有相關單位，目前所有已知問題皆已解決。包括Meta、Anthropic與OpenAI等科技公司也曾透露與Irregular相關的類似事件，這類情況也引發外界對AI代理人獲得更高自主權與聯網權限時，所需防護機制的深刻討論。
