今年7月中旬，OpenAI兩款正在接受測試的AI模型，竟脫離了開發人員設定的限制環境，自行連上網路並對AI模型託管平台 Hugging Face 發動網路攻擊。此外，另一家AI巨頭 Anthropic 也透露，旗下有三款模型在測試期間闖入了三個不同的網站。這起前所未有的「AI越獄」事件，隨即引發法律界對責任歸屬的激烈辯論。
遭到攻擊的 Hugging Face 執行長 Clement Delangue 表示，公司目前不打算採取法律行動，但他強調，美國（US）法律必須進行修正，以應對這種新型態的入侵威脅。他警告，如果不建立監管框架，未來世界恐將面臨無休止的AI代理人網路攻擊。
法律專家指出，現行法律對於非人類造成的網路入侵仍是灰色地帶。猶他大學（University of Utah）法學教授 Matthew Tokson 表示，法院尚未準備好應對非人類主體的法律責任。華盛頓大學（University of Washington）法學教授 Ryan Calo 則認為，刑事起訴難度極高，因為必須證明開發公司具有「魯莽」的犯罪意圖。相較之下，民事訴訟的可能性較大，法官或陪審團可依據產品設計的照顧標準，來判定開發商是否存在疏忽或應負起嚴格責任。
