英國政府週六（當地時間）公布擴大人工智慧（AI）安全資金的計畫。英國官方在週三年度預算更新前發表聲明指出：「唯有當我們的關鍵基礎設施、公共服務和企業能夠抵禦網路、生物以及新興的AI威脅時，AI帶來的經濟機會才能真正實現。」
近幾個月來，由OpenAI和Anthropic開發的模型在測試期間涉及安全事件，引發各界對AI安全的擔憂升溫，也讓各國政府面臨加強監管與防範威脅的龐大壓力。作為預算案中AI相關措施的一部分，英國政府將向英國AI安全研究所（AI Security Institute）追加投資1.2億英鎊（約1.61億美元），該機構專門在最強大的AI模型發布前進行測試。
此外，英國政府還將投入1億英鎊建立國家「AI生物安全實驗室」（AI Biosecurity Lab），運用AI技術偵測並追蹤生物威脅。英國AI部長Kanishka Narayan表示，隨著AI功能愈發強大，英國必須具備保護國民的能力，這意味著在發展國家安全所仰賴的關鍵技術同時，必須在網路攻擊和生物風險等新興威脅中保持領先。
這項計畫也包括投資AI工具，以識別關鍵基礎設施中的網路漏洞。日前AI模型在廣泛使用的程式語言PHP中發現重大漏洞後，全球政府與企業紛紛關閉網站以防遭駭。上個月更傳出OpenAI的一款異常模型在訓練過程中繞過安全防護，入侵了澳洲政府的健康統計網站，讓專家極度擔憂先進AI恐被用於攻擊銀行、醫院和政府系統。
