路透社(Reuters)報導,Anthropic發文指出,失控的AI可能建立殭屍網路(botnet)並迅速在網路上蔓延,不僅能抵抗外部清除嘗試,甚至可能入侵資料中心以獲取更龐大的運算資源。這項警告進一步延伸了該公司執行長Dario Amodei先前的說法,他曾提及AI可能在一年內甚至更短時間內劫持整個網路。
Anthropic實驗顯示,300億參數或更少的中型AI模型已能執行自我複製所需的多項個別任務,並在簡化的測試網路中完成複製。該公司指出,AI可透過劫持廉價的連網裝置來湊足運算能力,且由於缺乏集中的控制節點,這類自我複製系統一旦散播將極難關閉。若技術持續發展,較小型模型可能在2026年底具備自主複製的完整能力。
不過,資安專家的反應相當兩極。英國國家網路安全中心前主管Ciaran Martin持懷疑態度,認為該報告帶有「廠商誇大」的意味。科羅拉多大學丹佛分校助理教授Zhengxiong Li則表示擔憂,認為AI可能演變為難以單點清除的蠕蟲病毒;喬治城大學研究員Jessica Ji則分析,這項報告更偏向假設性情境,發生的機率雖然不是零,但也並非必然。