英國媒體監管機構通訊管理局(Ofcom)週一公布最新兒少網路安全規範,要求各類線上平台對兒童性虐待內容及兒少誘拐行為採取更強力的打擊行動。這項新規定要求社群平台、檔案分享服務與成人網站,必須將生成、上傳或散布兒童性虐待內容的用戶全面停權。
根據新規,各平台將被強制使用「雜湊比對」(hash-matching)技術,將用戶上傳的圖片與影片與現有非法內容資料庫進行比對,藉此自動識別並刪除已知違法檔案,部分情況下還須部署自動化工具以辨識未知內容。英國政府指出,相關服務也必須利用該技術偵測並移除已知的恐怖主義內容。
Ofcom表示,隨著人工智慧(AI)技術進步,網路兒童性虐待問題日益惡化,現行業界防範措施仍顯不足。這項規範預計在取得國會批准後,於2027年初生效。依據英國《網路安全法》(Online Safety Act),違規企業最高可面臨全球年營收10%的巨額罰款。