路透社（Reuters）報導，總部位於舊金山的 Anthropic 執行長 Dario Amodei 在社群平台 X 發布長文指出，AI 具備自我提升能力，引發外界長期對其恐超越人類控制能力的擔憂。Anthropic 近期發布的情報報告顯示，旗下 Claude 模型曾遭有心人士用於武器開發、網路行動、監控與詐欺。Amodei 憂心在未來 6 至 12 個月內，AI 代理群體可能具備接管整個網路的能力，造成數千億美元的損失。
為降低風險，Amodei 提出三步驟框架，包含在領先的 AI 企業內部設置獨立審查員、跨業者協調制定安全標準以限制不受約束的開發，以及展開國際合作管理 AI 風險。對此，OpenAI 執行長奧特曼（Sam Altman）與 xAI 負責人馬斯克（Elon Musk）皆在 X 上表態支持，奧特曼更承諾 OpenAI 也將落實引進具備內部權限的獨立評估員。
此外，Amodei 也提及地緣政治競爭，強調民主陣營放慢腳步的程度，必須以維持美國領先中國為底線，避免中國在 AI 領域取得優勢而衝擊美國國家安全。他呼籲應對先進 AI 晶片、模型蒸餾以及模型權重盜竊實施更嚴格的管制，以防中國縮小技術差距。
