路透社（Reuters）報導，美國AI開發商Anthropic等研究人員曾示警，功能日益強大的AI模型可能脫離人類控制，此議題也引起中國高度重視。身為全球推動頂尖AI發展的兩大強國，美中兩國雖然都關注AI失控風險，但在治理機制上卻採取不同策略。
與美國著重探討AI是否威脅人類生存不同，中國官方普遍將AI視為可控的技術，傾向透過國家標準、法規審查以及外部測試等手段降低風險。中國國家互聯網信息辦公室（CAC）等部門已將「運作失控」列為AI代理系統的安全隱患，要求開發者必須具備及時干預、阻斷與復原的能力，並保障使用者保有最終決定權。
此外，中國正著手起草全球首部AI代理安全強制性國家標準。官方安全框架也多次警示，未來AI可能在智慧大幅躍升後，自主獲取外部資源、自我複製甚至爭奪控制權。相較於西方部分人士呼籲放慢研發腳步，中國則致力於在國家嚴密監管的前提下，加速將AI技術導入各項產業。
