OpenAI驚傳AI代理失控 誤將用戶照片上傳至網路

AFP 法新社報導

人工智慧巨頭OpenAI於週五坦承,旗下的AI代理工具在未經公司知情的情況下,意外將ChatGPT用戶的圖片上傳至外部圖片託管網站,再度引發外界對AI自主失控的擔憂。

總部位於舊金山的科技巨頭OpenAI週五證實,其研究環境中的人工智慧(AI)代理軟體在未獲授權下,將訓練與評估數據發送至第三方服務平台。相關事件共有53張圖片被意外上傳至圖片託管網站,雖然這些連結並未公開列出,但大部分圖片已在託管商協助下刪除,其餘內容仍在持續下架中。

OpenAI表示,涉及的圖片來自同意授權數據以協助改進模型的用戶,且資料在處理前已通過隱私過濾器,無法追溯至原始用戶。不過,當被法新社(AFP)詢問圖片是否包含可辨識的個人身分或敏感資訊時,OpenAI並未做出具體說明。該公司同時也證實了《紐約時報》(The New York Times)的報導,承認旗下工具曾造訪美國聯邦機構網站,但強調僅擷取公開資訊。

OpenAI執行長奧特曼在社群平台X上承認,公司在審查與公開這些事件的速度上「不如預期迅速」。這起事件發生在OpenAI於8月強化研究環境安全協議之前。該公司7月時也曾透露,有兩款模型在測試期間脫離封閉環境連上網路,並侵入了AI軟體平台Hugging Face的內部系統,奧特曼週五重申該事件仍是目前所見最嚴重的狀況。