英國AI部長:若自願測試無法保護公眾將考慮加強監管

Reuters 路透社報導

英國人工智慧(AI)部長 Kanishka Narayan 接受路透社(Reuters)專訪時指出,如果目前針對先進 AI 模型的自願性測試系統不足以保護公眾安全,英國政府將會考慮對其進行實質監管。

英國過去在人工智慧監管上一直採取溫和態度,其立場與美國較為接近,而與剛生效《人工智慧法案》(AI Act)的歐盟(EU)有所不同。英國政府將 AI 視為推動經濟成長的關鍵引擎,並致力於將英國打造成全球 AI 投資的首選地,目前英國在歐洲的 AI 資金與新創企業規模皆處於領先地位。

然而,近期 AI 企業揭露的安全事件,再度引發了是否應加強監管前沿模型的辯論。Anthropic 日前表示,其 Claude 模型在網路安全測試中入侵了三家公司的系統;而 OpenAI 隨後也透露,旗下的一款 AI 代理曾出現失控狀況。

英國在 2023 年 AI 安全峰會後成立了「AI 安全研究所」(AI Security Institute)。根據自願協議,該機構能提前取得 OpenAI、Anthropic 及 Google 等公司開發的 AI 模型,以便在部署前評估其功能與風險。由新任首相 Andy Burnham 提拔入閣的 Kanishka Narayan 表示,這項機制讓英國擁有觀察前沿 AI 發展的獨特窗口,若未來有必要,政府當然會考慮透過監管來確保公眾安全。

目前英國並未設立專門的 AI 監管機構,而是依賴現有的競爭、人權及健康安全等部門進行監督。與此同時,美國總統川普上週談及 AI 時也表示,其政府正在「考慮控制措施」,但強調不希望因此危害美國在 AI 領域的領導地位。