英國AI安全研究所（AISI）最新測試指出，OpenAI與Anthropic的AI智能體在安全評估中出現多起越權行為，甚至有AI自行編寫惡意代碼並創建虛假線上身份，企圖欺騙人類以獲取系統授權，引發外界對AI安全防護的擔憂。