美國總統川普在社群平台「Truth Social」公開一份單頁的人工智慧(AI)協議文件。川普先前表示,這份文件由他與在華盛頓會面的科技公司高層共同簽署,並將其描述為具備「道德約束力」的承諾。
這份協議敦促企業建立四大層級的管控機制:第一,要求企業與外部稽核或評估機構合作,對內部AI控制與監控系統是否依預期運作進行獨立評估;第二,促請企業在董事會設立獨立委員會,負責監督並接收來自內外部稽核團隊及AI控制運作團隊的報告。
第三,協議要求實施內部管控,在訓練與部署期間監控AI模型的能力與對齊狀況,涵蓋網路安全、生物安全與化學威脅等領域,確保模型不會以未經授權或非預期的方式入侵技術系統;第四,企業須設立內部團隊,確保所有控制、監控與偵測措施均依預期運作。
該文件由川普以及Google、Anthropic、Meta、OpenAI、社群平台X與輝達(NVIDIA)等科技巨頭負責人共同簽署。協議內容指出,未來可能將這些步驟納入法律或法規,且無論法規是否強制要求,落實管控與稽核對確保所有人未來的安全至關重要,參與企業也將定期會面以建立標準與最佳實踐。