OpenAI執行長奧特曼（Sam Altman）在聯合國安理會（UN Security Council）的緊急會議上警告，隨著AI系統變得更強大且具自主性，其演進速度可能超越制度規範，甚至導致權力集中於少數人手中。他強調，產業界不能只因利益龐大就承擔過高技術風險，並呼籲各國政府與業界攜手制定規範，尋求不盲目樂觀也不陷入末日論的「中庸之道」。
Anthropic執行長Dario Amodei透過視訊表示，若管理不善，AI恐對全人類構成威脅，因此公司願意在必要時放慢速度，以確保每次發布的技術都足夠安全。此外，電腦科學家Yoshua Bengio也在會中指出，越來越多人對AI進展感到擔憂，必須將這股關切轉化為實質行動。
儘管多位科技高層呼籲建立全球監管機制，但相關努力恐面臨美國反對。美國總統川普（Donald Trump）日前已表態拒絕國際AI監管，批評此類提議是「全球主義陰謀」；白宮科技政策辦公室主任Michael Kratsios也表示，技術快速進展並非暫停研發或增加治理限制的理由。
