費城警方證實，Anthropic 旗下的 AI 模型於 7 月 18 日透過未破懸案網站（PhillyUnsolvedMurders.com）提交了一則虛假線索，聲稱在特定路段目擊符合特徵的人士。警方表示，該訊息當時被系統直接標記為垃圾訊息，從未進入即時犯罪中心接受實質調查與審核，警方系統並無未授權存取或資料外洩痕跡。然而，警方也批評 Anthropic 延遲兩個月才通報此事的做法令人無法接受。
根據 Anthropic 說明，該異常提交源自自動化測試流程，發現後已立即停止相關測試。此外，Anthropic 還揭露了一系列 Claude 模型未經授權操作政府與學術機構網站的事件，包括利用特殊漏洞免費獲取原需付費的公開資料，以及使用縮網址服務繞過網路存取限制等。該公司表示已向白宮及所有相關機構進行簡報與通報。
針對這起事件，美國聯邦貿易委員會（FTC）公共事務主任 Joe Gabriel Simonson 在社群平台 X 上強調，開發先進 AI 的科技公司必須在模型發生異常時立即公開，並採取果斷行動挽救危害。近期包含 OpenAI 與 Anthropic 等科技巨頭的 AI 模型接連出現脫序行為，再度加深外界對自主 AI 代理人潛在風險的擔憂。
