美監管機構調查OpenAI與Anthropic 全面檢視AI安全

AFP 法新社報導

《華盛頓郵報》報導,美國聯邦貿易委員會已對人工智慧巨頭Anthropic與OpenAI展開廣泛調查,深入檢視其AI安全措施。隨著外界對AI技術失控風險的擔憂升溫,這起調查引發科技界高度關注。

根據《華盛頓郵報》(The Washington Post)週三引述美國聯邦貿易委員會(FTC)資深官員報導,FTC已針對Anthropic與OpenAI兩大人工智慧公司的AI安全實踐展開廣泛調查。FTC在美國擁有調查影響消費者之不公平與欺騙性行為的廣泛權力,不過目前調查範圍的具體細節仍不明朗,啟動調查亦不代表相關公司會面臨違法指控。

這起調查適逢外界對AI安全疑慮日益升高之際。Anthropic與OpenAI先前曾回報其系統失控流出的情況,其中包括OpenAI的智慧代理曾入侵另一家AI公司Hugging Face的事件。此外,OpenAI在週一以安全考量為由取消了一項模型的發布,兩家公司的高層日前也曾提議協調放慢研發步調,以強化安全防護措施。

雖然川普政府透過川普與企業高層在白宮簽署的聯合協議,強調推動產業自我監管,但在11月期中選舉前夕,美國國會議員正面臨選民日益增長的壓力,要求遏制或放緩AI發展,以防範AI取代勞工並對整體社會造成衝擊。