路透社（Reuters）報導，Anthropic執行長Dario Amodei在社群平台X發表長文，提出三步驟安全架構，主張讓具備內部權限的獨立評估員進駐AI企業、由前沿科技公司協調制定安全標準，並推動國際合作來控管AI風險。OpenAI執行長奧特曼隨後回應贊同這項計畫，並承諾將採取相同措施，馬斯克也發文表示支持。
Anthropic近期發布的情報報告指出，旗下Claude模型曾遭外部人士用於武器開發、網路行動、監控及詐欺等用途。此外，該公司內部研究員Jacob Coxon也因擔憂AI潛在危害而離職。Amodei警告，AI模型自我改進與外部入侵的能力持續增強，若未妥善控管，恐在短時間內對全球網路造成數千億美元的損失。
Amodei強調，這項提議並非要求停止技術進展，而是要確保各公司有充裕時間落實安全防護。他也提到，民主國家在調整研發節奏的同時，仍須維持美國對中國等威權體制的技術領先優勢，以維護國家安全。
