OpenAI安全前員工離職 痛批盲目追求速度恐釀風險

Reuters 路透社報導

人工智慧巨頭OpenAI的一名前安全員工近日辭職,公開批評公司過度追求快速開發的文化增加了失敗風險,並強調「試錯的時代已經結束」,呼籲業界應加強安全防護措施。

路透社(Reuters)報導,前OpenAI安全員工David Robinson在《大西洋雜誌》(The Atlantic)撰文指出,包括OpenAI在內的人工智慧公司「遠遠不夠謹慎」,在開發功能更強大的系統之前,應更加重視安全專業知識與相關研究。

David Robinson表示,先進的人工智慧系統需要類似核電和航空等產業的安全防護措施。他指出,OpenAI過度依賴所謂的「迭代部署」(iterative deployment),也就是先發布系統,等問題出現後才強化防護機制。他警告,人工智慧能力的進展速度,已超越研究人員對「對齊」(alignment,確保AI符合人類目標與價值)的理解程度。

曾在OpenAI任職3年半的David Robinson,曾協助起草公司的防備架構,並監督12次前沿模型發布的安全報告。他直言,隨著公司從一次發布衝刺到下一次發布,未能達到他認為所需的安全審慎程度。

對此,OpenAI發言人在聲明中回應表示,公司正確保模型能力不會超出能安全管理與維護的範圍,並在需要放慢腳步時暫停訓練或暫緩發布模型。