路透社（Reuters）報導，根據一封日期為10月15日的信件，人工智慧（AI）新創公司Anthropic向加州州長Gavin Newsom提出政策建議，認為當審查發現某個AI模型對公眾構成嚴重威脅時，政府官員應該能夠尋求法院命令來阻止該模型發布。這項提議呼應了該公司先前的政策主張，Anthropic發言人隨後也證實了信件的真實性。
加州州長於9月召集AI專家小組研擬安全規範建議，Anthropic隨即遞交相關意見。不過，Anthropic在信中表明反對強制開發者建立能夠完全關閉整個AI模型的「緊急停止開關」（kill switch），而是支持採取更具針對性的干預措施，例如停用有問題的AI代理（agent），或是切斷特定客戶對模型的使用權限，認為這樣做會更有效率。
此外，美國國會過去也曾討論過類似的監管機制。跨黨派參議員9月曾討論賦予聯邦政府阻止不安全AI模型發布的法案，企業則可在聯邦法院提出挑戰；眾議院議員7月亦曾提出相關法案。目前Anthropic正準備在美國進行首次公開募股（IPO），這將成為近年來極受矚目的上市案之一。
