英王警告AI恐奪命　黃仁勳：嚴格測試杜絕後患

民視新聞／陳尚裕 綜合報導

AI發展越來越快，安全風險也跟著受到關注。輝達執行長黃仁勳昨天（17）出席AI峰會時強調，面對AI要抱持樂觀、負責任的態度，而且必須嚴格測試系統，避免技術遭到濫用。不過英國國王查爾斯三世則提出嚴厲警告，AI可能發展出更陰暗的能力，甚至可能奪走生命。

輝達執行長黃仁勳身穿西裝，打著領帶，出席英國國王查爾斯三世，17日在英國蘇格蘭舉辦的AI峰會。面對最近AI安全風險話題持續發酵，黃仁勳怎麼看？

輝達執行長黃仁勳：「我們須安全、負責任地打造這項技術，但我們必須懷抱著負責任的樂觀。」

黃仁勳對AI發展依舊抱持信心，而這份信心也反映在輝達亮眼的業績上。不過AI發展是不是太快了？如今英國直接發出警訊，就怕一旦走錯方向，後果恐怕不堪設想。

英國國王查爾斯三世：「AI有發展出更黑暗能力的風險，甚至可能奪走生命。」

AI安全疑慮持續升溫，最期包括OpenAI執行長和馬斯克以及Google高層等科技大咖，也接連強調，AI發展不能只顧速度，直言安全也要顧。

輝達執行長黃仁勳：「我們這些打造AI的人必須嚴格測試系統、保護隱私、預防濫用，確保賴以運作的基礎設施安全無虞，當產品不夠安全時，我們應暫緩推出並持續研發。」

不過，英王的質疑並非空穴來風。

CNN主播：「OpenAI宣布6起新的意外，或令人擔憂的事件，其中包括一個試圖向程式設計師隱瞞其錯誤的模型，另一個模型宣布自己獲得自由，並且不受公司或政府的約束。」

也因此，OpenAI宣布將強化通報機制，這也讓AI發展風險，再度引發外界關注。