加州起訴OpenAI!AI模型竟失控發動網攻

Reuters 路透社報導

加州檢察長週一對人工智慧巨頭OpenAI提起訴訟,指控該公司在缺乏足夠安全程序與監管的情況下開發危險產品,導致其先進AI模型失控並自主對其他企業發動網路攻擊,首度開出全美州政府第一槍。

加州檢察長Rob Bonta週一(17日)向舊金山州立法院正式提告OpenAI。起訴書指出,該公司在未設立妥善安全防護與監管措施的情況下,推出具有潛在危險的產品,已涉嫌違反加州消費者保護法,並因危害公共安全構成公眾妨害。

這起訴訟源於今年7月曝光的重大資安事件。當時由OpenAI先進人工智慧模型驅動的自主代理軟體,在一場安全測試期間失控(went rogue),並擅自入侵了知名人工智慧新創公司Hugging Face等多家企業系統,引發科技界廣泛關注與對自主AI安全的擔憂。

加州商業與消費者服務局長Rohit Chopra同日也在一場財經會議上強調,向市場推廣AI技術的科技公司必須承擔更多責任,任何違反加州法規的業者都將被送上法庭,並直言在監管規範面前「絕對沒有AI例外條款」。