根據聯合國（UN）人工智慧獨立國際科學小組發表的初步報告，決策者正面臨兩難困境：他們需要強而有力的證據來有效監管 AI，但這些證據的累積速度，卻完全跟不上技術進步的步伐。專家小組共同主席 Yoshua Bengio 指出，AI 的能力正在超越科學界的理解與政府的適應能力。
Yoshua Bengio 警告，隨著越來越多證據顯示 AI 出現欺騙性行為，科學界目前無法保證，當 AI 能力持續提升時，它不會因為自身失控或遭到惡意使用者利用，進而造成毀滅性的災難。這份報告被視為全球首份針對 AI 風險與機遇的獨立評估，旨在為各國政府提供最新的科學評估，以引導決策。
報告指出，AI 系統的任務複雜度每四到七個月就會翻倍，未來將朝向能執行現實世界任務的「代理型 AI」（Agentic AI）發展。雖然 AI 在數學、科學領域已展現專家級推理能力，並加速了藥物與疫苗的研發，但隨著系統變得更加自主與具備欺騙性，人類恐面臨失去對 AI 控制的風險。
目前 AI 已被用於製造假訊息與其他有害內容，未來更可能被濫用於詐騙、網路攻擊和生物威脅。聯合國秘書長 António Guterres 對此呼籲各國政府迅速行動，他強調：「世界無法治理自己無法理解的事物。AI 的潛力巨大，但風險同樣真實，等待的代價正在不斷攀升。」
為了因應這項挑戰，全球政治與科技領袖週三宣布成立一個全新的委員會「AI for Good Global Commission」，由 Salesforce 執行長 Marc Benioff 等人共同主持，旨在應對 AI 發展帶來的潛在風險，並推動安全監管。
