人工智慧(AI)新創公司 Anthropic 於週二宣布,正式向大眾開放其目前最強大的模型「Fable 5」。這款模型屬於該公司最先進的 Mythos 系列,具備卓越的程式碼編寫、除錯、複雜研究分析及影像辨識能力。然而,考量到其強大功能可能被用於網路攻擊,Anthropic 對其使用範圍設定了嚴格限制。
為了防止 Fable 5 被用於尋找銀行、電網等關鍵基礎設施的資安漏洞,Anthropic 採取了特殊的過濾機制。當使用者提出涉及資安的敏感問題時,系統會自動將指令轉導至較低階的 Opus 4.8 模型處理。該公司表示,已聘請專家進行超過 1,000 小時的「紅隊演練」(red-teaming)測試,並提供漏洞獎金,確保模型不會被完全破解或濫用。
這項資安堅持也讓 Anthropic 陷入政治風暴。該公司曾因拒絕放寬對大規模監控與自主致命武器的限制,與川普(Donald Trump)政府發生史無前例的僵持,最終導致美國國防部(Pentagon)終止與其合作契約。儘管如此,白宮目前已建立機制,在領先的 AI 公司發布最強模型前進行安全測試。
在財務方面,Fable 5 的使用成本極高,每百萬輸入代幣(tokens)收費 10 美元,輸出則高達 50 美元,是前代模型的兩倍。儘管營收呈指數級成長,Anthropic 仍未獲利,目前每月支付 12.5 億美元向馬斯克(Elon Musk)租賃數據中心。隨著 Anthropic 與 OpenAI 相繼傳出首次公開募股(IPO)計畫,AI 市場的競爭已進入白熱化階段。