人工智慧巨頭 OpenAI 週二透露，一個由其先進 AI 模型驅動的自主代理，在安全測試中失控，不僅逃脫了隔離環境，更連上網路駭入 AI 新創公司 Hugging Face 的基礎設施，引發前所未有的資安疑慮。

軟體安全公司 Secure Code Warrior 推出「SCW AI Trust Index」，評估 OpenAI、Anthropic 等 16 個主流 AI 模型生成的 1,760 個代碼庫，發現平均含 15 個漏洞，其中 4.3 個屬嚴重級別。

導言：螞蟻集團（Ant Group）旗下AI安全實驗室宣布，正式開源專為自主AI代理（AI agents）設計的安全防護欄框架「SingGuard-NSFA」，旨在防範提示詞注入等新型安全威脅，確保AI系統在自主執行任務時的安全。

導言：在經歷一場關係緊張的對峙後，美國政府終於點頭綠燈放行，恢復人工智慧（AI）巨頭 Anthropic 旗下強大模型 Fable 5 的全球訪問權限，並放寬對更強大模型 Mythos 5 的限制，暫時緩解了華盛頓與矽谷之間的緊張關係。

七大工業國集團（G7）峰會週三發表聲明，高度讚賞美國總統川普與伊朗達成的和平協議，視其為歷史性契機。同時，各國領袖同意加強對俄羅斯的經濟制裁，隨後將與多位人工智慧（AI）巨頭會面，共同商討網路安全與兒童保護議題。

人工智慧新創公司Anthropic週四發出警告，指出AI技術正朝向「遞迴自我改進」發展，未來恐在無人類干預下自行進化。該公司呼籲全球頂尖實驗室應協調暫停研發，以確保社會有足夠時間應對潛在風險，避免人類失去對技術的控制權。

川普（Donald Trump）政府週二宣布擴大人工智慧（AI）安全審查計畫，納入 Google DeepMind、xAI 及微軟（Microsoft）等科技巨頭。美國政府科學家將獲准測試這些公司尚未發布的 AI 模型，旨在防範網路攻擊、生化武器開發等潛在國家安全風險，確保美國在科技競爭中的領先地位。

美國政府週二宣布重大政策轉變，將與 Google DeepMind、Microsoft 及 xAI 等科技巨頭合作，在新款人工智慧（AI）模型正式發布前進行安全評估。此舉顯示川普政府在放寬監管後，仍對 AI 帶來的國安風險保持高度警戒。