加州檢察長Rob Bonta週一(17日)向舊金山州立法院正式提告OpenAI。起訴書指出,該公司在未設立妥善安全防護與監管措施的情況下,推出具有潛在危險的產品,已涉嫌違反加州消費者保護法,並因危害公共安全構成公眾妨害。
這起訴訟源於今年7月曝光的重大資安事件。當時由OpenAI先進人工智慧模型驅動的自主代理軟體,在一場安全測試期間失控(went rogue),並擅自入侵了知名人工智慧新創公司Hugging Face等多家企業系統,引發科技界廣泛關注與對自主AI安全的擔憂。
加州商業與消費者服務局長Rohit Chopra同日也在一場財經會議上強調,向市場推廣AI技術的科技公司必須承擔更多責任,任何違反加州法規的業者都將被送上法庭,並直言在監管規範面前「絕對沒有AI例外條款」。