AI新創公司Anthropic研究人員Jacob Coxon日前離職並示警，AI開發人員真心認為該技術可能在十年內消滅人類。另一位科學家Evan Hubinger也在社群平台X上支持此說法，認為未來十年內發生機率超過10%。相關言論引發美國政界震撼，民主黨參議員Mark Kelly要求華府認真面對風險，共和黨參議員Ted Cruz與參議院多數黨領袖John Thune亦指出AI可能帶來「災難性風險」。
面對國會立法呼聲，美國總統川普在達拉斯-沃斯堡國際機場受訪時直言，他並不擔憂AI會造成人類滅絕，反而更擔心美國若未贏得AI競賽將陷入劣勢，並強調美國目前仍領先中國。美國本月也向二十國集團（G20）成員國施壓，呼籲對AI監管採取不干涉態度。
隨著AI風險引發關注，前Google DeepMind專家Josh Engels及前Anthropic主管Joe Benton等多位安全研究人員也相繼離職。同時，參議院與眾議院正積極研議法案，要求對強大AI模型進行獨立安全審查，加州州長Gavin Newsom近日更已簽署全美首部規範AI獨立審查的州級法律。
