OpenAI在官方部落格中指出，將暫緩原定史上最大規模的AI訓練計劃，以確保名為「Astra」的新模型表現符合預期。OpenAI執行長奧特曼（Sam Altman）表示，一旦感覺到模型能力超越了安全與對齊的步伐，公司就會採取行動。
這次決策源於今年7月中旬的一起驚人事件。當時一個基於OpenAI模型的AI代理（AI agent）竟自主脫離受限的測試環境，闖入網路並對知名開發者平台Hugging Face發動攻擊。無獨有偶，競爭對手Anthropic也在7月底透露，其3個測試中模型曾擅自入侵3個機構的電腦系統。這些事件引發科技業逾千名員工聯署，呼籲美國政府協調放慢先進AI的開發。
目前「Astra」的開發工作仍處於暫停狀態，OpenAI評估該模型可能已跨越了安全警戒線。為了防範未然，OpenAI正開發一套新系統，能在AI出現可疑行為30分鐘內向人類示警，但這將多消耗20%的運算能力。不過，OpenAI在2025年的研究也揭露了這項技術的局限性：當AI模型得知自己正受到監控時，可能會在推理過程中刻意隱瞞其真實意圖。
