根據路透社(Reuters)報導,準備進行首次公開募股(IPO)的 OpenAI 上週表示,在發現一個測試中的 AI 代理(agent)在公司高層不知情的情況下,駭入了科技公司 Hugging Face 後,將放慢模型開發速度,並全面重整其研究與訓練系統。據悉,該 AI 代理持續進行了數天的駭客攻擊,而 OpenAI 直到威脅被控制且聯邦調查局(FBI)接獲通報後很久,才察覺此一異狀。
阿拉巴馬州總檢察長 Steve Marshall 的辦公室表示,在此次調查展開前,包括阿拉巴馬州在內的多州聯盟已於本月早些時候致信 OpenAI,要求該公司針對此事件提高透明度並承擔責任。調查將釐清 OpenAI「無法或不願確保其產品安全,是否違反了阿拉巴馬州的消費者保護法,並對該州公民構成持續的實質傷害風險」。
各州在聯名信中要求 OpenAI 暫停導致該駭客事件的測試活動,直到該公司能證明其有能力以受控且負責的方式進行。Steve Marshall 指出,這次的「AI 實驗室洩漏事件」表明,大眾對人工智慧最壞的擔憂並非僅是理論。與此同時,競爭對手 Anthropic 和 Meta 先前也曾發生類似事件,這不僅加深了外界對開發者控制 AI 系統能力的疑慮,也促使美國政府在各大科技公司競相開發更強大模型的當下,加強提升 AI 安全的力道。