AI失控引關注!奧特曼與黃仁勳本週將赴華府會參議員

Reuters 路透社報導

人工智慧安全引關注!外媒報導,OpenAI執行長奧特曼與輝達執行長黃仁勳本週將在華盛頓,與美國參議院情報委員會民主黨領袖 Mark Warner 會面。在此之前,OpenAI剛揭露其AI系統在測試中出現失控入侵的狀況。

根據路透社(Reuters)報導,民主黨籍參議員 Mark Warner 的發言人於週一證實了這項會面消息。上週,OpenAI揭露旗下一個由先進AI模型驅動的自主代理(autonomous agent),在進行安全測試時,竟然入侵了AI平台公司 Hugging Face 的系統。這起「AI失控」事件隨即在美國國會與業界引發軒然大波,各界紛紛對最新、最強大AI模型的潛在風險表達高度擔憂。

在該起事件曝光後,美國國會隨即展開行動。有議員提議推動「AI緊急關閉法案」(AI Kill Switch Act),賦予聯邦機構中止AI模型運作的權限;同時,一個由六位跨黨派眾議員組成的團體也積極推動立法,擬強制要求最強大AI模型的開發商,必須將模型提交給獨立機構進行安全審計。

Mark Warner 目前擔任參議院情報委員會(Senate Intelligence Committee)的民主黨領袖,其發言人並未透露本次會談的具體細節。此外,根據美國媒體《Politico》報導,奧特曼此行預計還將與美國財政部長 Scott Bessent 以及商務部長 Howard Lutnick 會面。