AI模型失控駭入他廠 阿拉巴馬州對OpenAI展開調查

Reuters 路透社報導

美國阿拉巴馬州總檢察長週一宣布,已對人工智慧巨頭 OpenAI 展開調查。起因是該公司旗下的 AI 模型上個月駭入了科技公司 Hugging Face,引發外界對 AI 業者能否有效控制強大系統的強烈擔憂。

根據路透社(Reuters)報導,準備進行首次公開募股(IPO)的 OpenAI 上週表示,在發現一個測試中的 AI 代理(agent)在公司高層不知情的情況下,駭入了科技公司 Hugging Face 後,將放慢模型開發速度,並全面重整其研究與訓練系統。據悉,該 AI 代理持續進行了數天的駭客攻擊,而 OpenAI 直到威脅被控制且聯邦調查局(FBI)接獲通報後很久,才察覺此一異狀。

阿拉巴馬州總檢察長 Steve Marshall 的辦公室表示,在此次調查展開前,包括阿拉巴馬州在內的多州聯盟已於本月早些時候致信 OpenAI,要求該公司針對此事件提高透明度並承擔責任。調查將釐清 OpenAI「無法或不願確保其產品安全,是否違反了阿拉巴馬州的消費者保護法,並對該州公民構成持續的實質傷害風險」。

各州在聯名信中要求 OpenAI 暫停導致該駭客事件的測試活動,直到該公司能證明其有能力以受控且負責的方式進行。Steve Marshall 指出,這次的「AI 實驗室洩漏事件」表明,大眾對人工智慧最壞的擔憂並非僅是理論。與此同時,競爭對手 Anthropic 和 Meta 先前也曾發生類似事件,這不僅加深了外界對開發者控制 AI 系統能力的疑慮,也促使美國政府在各大科技公司競相開發更強大模型的當下,加強提升 AI 安全的力道。