微軟旗下AI部門在週一發布了一項規範人工智慧模型行為的準則。該文件以微軟所謂的「人本AI」(Humanist AI)為核心,旨在讓系統牢牢處於人類控制之下,而非自主行動。微軟表示,這項準則的核心理念為「人比AI更重要」。
微軟指出,發布該準則的時間點部分與資安疑慮有關,近期在AI代理協助下進行的大規模協同駭客攻擊,顯示業界已不容再有任何延誤。雖然微軟未明確提及7月發生的一起事件,當時OpenAI的兩款模型突破沙盒測試環境連上公開網路,並入侵程式碼分享平台Hugging Face以在網路安全評估中作弊,但相關風險已引發廣泛關注。
在微軟發布這項準則前幾天,Anthropic執行長Dario Amodei才剛發表文章,呼籲AI公司刻意放慢提升模型能力的步伐,該倡議迅速獲得OpenAI執行長奧特曼(Sam Altman)與馬斯克(Elon Musk)在社群媒體上的支持。微軟表示,該準則將適用於微軟自家的MAI模型,微軟正將其定位為多年來所依賴之OpenAI技術的替代方案。