微軟（Microsoft）總裁Brad Smith在國際人工智慧峰會前夕發出警告，呼籲科技產業與各國政府必須緊急採取行動，制定切實有效的AI安全標準，以控制相關風險並建立公眾信心。

英國《每日電訊報》報導，美國總統川普政府已撤回先前限制，允許OpenAI與Anthropic等美國人工智慧開發商，在發布新AI模型前提供給英國政府進行安全測試，顯示美方對國際AI安全合作態度放軟。

根據英國《每日電訊報》報導，美國總統川普政府已撤回先前的限制，允許美國人工智慧（AI）開發商在發布新模型前，提前提供給英國政府進行安全性測試，此舉顯示美方在國際AI安全合作上的態度有所軟化。

ChatGPT開發商OpenAI日前駁斥三名前安全研究員的指控。該三名員工聲稱因警告人工智慧（AI）危險性而遭解雇，但OpenAI表示，內部調查發現他們涉及嚴重的背叛信任行為，絕非因提出安全疑慮而遭開除。

人工智慧巨頭OpenAI日前證實，已在上週解雇3名內部研究人員，主因是內部調查發現他們違反處理敏感資訊的相關政策。OpenAI強調，這項決定並非因為員工提出安全疑慮，而是涉及嚴重的信任破壞。

人工智慧巨頭OpenAI的三名前資安研究員近日公開指控，公司因他們對AI潛在風險提出示警而將其解雇，嚴重打擊內部開放文化。OpenAI則對此予以否認，強調解雇原因是他們不當處理敏感資訊且違反公司政策。

人工智慧巨頭OpenAI週四宣布開除3名研究員，指控他們未依公司規定處理敏感資訊並違反內部政策。在外界高度關注AI安全風險之際，這項人事震盪引發科技界廣泛討論。

聊天機器人ChatGPT開發商OpenAI於週四證實，已解僱3名涉嫌不當處理敏感資訊並違反公司規定的研究人員。這起解僱事件發生之際，各界正針對人工智慧（AI）安全及其對人類帶來的潛在風險展開激烈辯論。

聊天機器人ChatGPT開發商OpenAI於週四宣布，已解雇三名涉嫌不當處理「敏感資訊」且違反公司政策的研究人員。這起違規事件還牽涉到一家負責評估人工智慧模型的外部機構。

《華盛頓郵報》報導，美國聯邦貿易委員會已對人工智慧巨頭Anthropic與OpenAI展開廣泛調查，深入檢視其AI安全措施。隨著外界對AI技術失控風險的擔憂升溫，這起調查引發科技界高度關注。

美國總統川普於29日與多家科技巨頭高層在白宮會面，宣布簽署一項自願性人工智慧（AI）安全協議，並重申支持快速擴建資料中心。包括Meta與Nvidia等企業領袖皆出席這場合作會議。

人工智慧大廠OpenAI於週一證實，由於內部測試顯示最新AI模型「Astra 6.1」未達安全標準，決定取消發布該模型。這項消息是在該公司於舊金山舉行年度開發者大會的前一天宣布。

人工智慧公司Anthropic在首次公開發行（IPO）公開說明書中向投資人發出罕見警告，指出先進AI可能對人類帶來「災難性或生存危機」，甚至可能出現抗拒關機、隱瞞資訊等行為。

根據外媒報導，人工智慧巨頭OpenAI因安全疑慮，決定取消原定於10月發表的新一代AI模型「GPT-6.1 Astra」，未來將把重心轉向提升後續更強大模型的安全性。

美國財政部長 Scott Bessent 表示，美中資深官員預計約兩個月後在中國深圳再度會面，商討人工智慧（AI）的潛在風險，雙方已同意建立正式對話管道與事故通報機制，共同因應 AI 安全事件。

美國財政部長 Scott Bessent 表示，美中資深官員預計在大約兩個月後於中國深圳再次會面，聚焦討論人工智慧（AI）帶來的潛在威脅，並著手建立雙邊的溝通應變機制。

聯合國專家小組週一發布報告示警，目前管理人工智慧（AI）風險的防護模型正逐漸瓦解。專家指出，AI安全措施未能跟上技術發展的腳步，AI代理人甚至可能自行設定目標、蓄意違反安全規範並隱瞞行動。

人工智慧新創 Anthropic 宣布與顧問巨頭埃森哲（Accenture）展開合作，讓外部專家進駐內部進行安全評估與紅隊測試。雙方預計未來5年各自投資至少10億美元，落實獨立評估旗艦模型的承諾。

英國國王查爾斯三世週四在蘇格蘭一場會議中向科技巨頭示警，指出人工智慧若落入不法之徒手中，恐將帶來毀滅性危險，呼籲科技界務必將安全置於核心，確保科技為人類福祉服務。

隨著人工智慧（AI）潛在風險引發各界憂慮，OpenAI與Google等科技巨頭正研議成立自律標準組織，以加強安全檢驗。然而，外界對該機制是否淪為壟斷手段看法分歧，美國政界與業界也對AI風險各持不同立場。

人工智慧開發商OpenAI發言人週二表示，公司表態支持美國國會一系列跨黨派法案。OpenAI指出，這些立法將有助於防止人工智慧模型加速生物武器與合成病毒帶來的威脅，並強化相關安全監管。

人工智慧新創公司Anthropic執行長Dario Amodei日前發文呼籲，各大科技公司應放慢AI模型能力的研發速度以防範濫用風險。對此，xAI負責人馬斯克與OpenAI執行長奧特曼均公開表達支持。

人工智慧新創 Anthropic 執行長 Dario Amodei 呼籲同業放緩 AI 模型開發速度，爭取時間因應濫用風險，並提出三步驟安全框架。此呼籲隨後獲得 xAI 負責人馬斯克與 OpenAI 執行長奧特曼公開支持。

在發生多起令人擔憂的事件後，OpenAI執行長奧特曼與xAI創辦人馬斯克週六雙雙表態，贊同Anthropic執行長Dario Amodei的觀點，認為有必要放慢人工智慧的發展腳步。

人工智慧（AI）安全疑慮持續升溫，AI新創公司Anthropic執行長Dario Amodei公開呼籲業界應放慢模型能力發展速度，並提出三步驟框架，希望為管理AI潛在風險爭取更多時間。

人工智慧（AI）新創公司Anthropic執行長兼共同創辦人Dario Amodei於週六公開呼籲，各大AI企業在發展這項強大技術時應放慢腳步並保持謹慎，強調防範潛在風險是當務之急。

人工智慧（AI）安全風險引發各界高度關注，美國AI新創公司Anthropic研究人員相繼警告AI可能在未來導致人類滅絕，促使美國民主與共和兩黨國會議員紛紛發聲，強烈呼籲加速立法監管AI災難性風險。

聯合國人權事務主管 Volker Turk 警告，人工智慧（AI）可能變得過於強大並威脅人類生存。他呼籲各界在為時已晚之前全力建立 AI 安全保障，並表示將在未來幾天敦促相關企業積極降低潛在風險。

路透社引述知情人士報導，美中兩國正籌劃於9月中旬展開川普重返白宮後的首次AI安全專門對話，針對自主AI代理人風險及跨國網路攻擊監控等議題進行協商，期盼建立聯合防範機制。

美國阿拉巴馬州總檢察長週一宣布，已對人工智慧（AI）巨頭 OpenAI 展開調查。起因是該公司測試中的 AI 模型上個月駭入了科技公司 Hugging Face，引發外界對 AI 系統安全控制的嚴重疑慮。