英王當面質問黃仁勳「難道等為時已晚？」　查爾斯憂AI恐奪命…他回應曝光

國際中心／李筱舲報導

才剛與美國總統連線引發話題，「AI教父」黃仁勳17日再赴蘇格蘭，會見英王查爾斯三世（King Charles III）。查爾斯在這場親自召集的 AI 峰會上，當面警告科技巨頭，AI若落入錯誤的人手中，將帶來災難性的後果。面對英王的警訊，黃仁勳也於現場正面給出回應。

查爾斯三世憂AI失控 呼籲各界正視「生存級威脅」

據外媒報導指出，英國國王查爾斯三世17日招集了OpenAI、Anthropic、Google DeepMind 以及輝達（Nvidia）的高層領袖，於蘇格蘭舉行的聚會，並針對「AI如何造福社會」以及「AI 的快速進步是否很快將超出人類控制能力」等議題進行研討。查爾斯在致開幕詞時表示：「AI的發展無論是其內容還是速度，都令人著迷，但同時也令人深感憂慮。」他指出，這類技術一旦落入有心人士手中，恐將帶來災難性後果，各界必須緊急審視其所引發的「生存級威脅」。

「在為時已晚之前」英王呼籲建立AI「核心原則」

查爾斯接著對面前這群AI科技巨頭們說：「那麼，在一切為時已晚之前，我們難道不需要具備足夠的控制手段嗎？」並要求包含輝達執行長黃仁勳、Google DeepMind 主席哈薩比斯（Demis Hassabis）在內的所有與會者，共同思考引導 AI 發展應遵循的「核心原則」。查爾斯表示，這些科技高層的任務「不僅僅是推進科技，而是確保科技始終堅定地服務於人類、社群與自然世界。」。

AI該不該放慢發展？黃仁勳回應：不夠安全就該踩煞車

然而，關於是否應該放慢AI發展速度的辯論，在業界引發了分歧。曾對減速呼籲提出批評的黃仁勳表示，企業應自行負責安全地開發其AI技術，並在向公眾推出任何產品前進行妥善測試。他在國王致詞後的發言中強調：「當一項產品還不夠安全時，我們就應該先踩煞車，暫緩推出並繼續研發（keep engineering）。」並表示：「我們過去一直是這麼做的，未來也應該繼續這麼做。」。