路透社報導，Anthropic研究員Jacob Coxon日前宣布辭職並透露，開發AI的人士確實相信AI可能在10年內毀滅全人類。隨後該公司科學家Evan Hubinger也在社群平台X上發文附和，認為未來10年內AI毀滅人類的機率可能超過10%。
研究人員的嚴厲警告迅速在華府政壇引發震動。民主黨籍參議員Mark Kelly呼籲華府必須認真對待這項威脅；共和黨籍參議員Ted Cruz則指出應立法嚴防AI帶來的災難性風險。此外，共和黨籍眾議員Anna Paulina Luna也要求眾議院議長Mike Johnson就AI議題召開特別會議。
面對外界疑慮，正籌備上市的Anthropic發言人表示，公司將持續針對網路安全與生物領域等危險能力進行嚴格測試，並願與業界協調釋出新工具的步調。彭博社報導亦指出，OpenAI執行長奧特曼（Sam Altman）在內部會議表示願意放慢AI系統的開發腳步。
目前美國國會正積極推動相關立法，參議院多數黨領袖John Thune與民主黨參議員Amy Klobuchar正聯手起草法案，要求AI業者與政府專家合作驗證模型安全性；加州則在日前通過全美首部規範第三方獨立審查AI產品的州法。
