路透社(Reuters)報導,OpenAI首席科學家Jakub Pachocki在官方部落格撰文指出,隨著產業界內外對人工智慧(AI)快速發展帶來的潛在風險日益擔憂,開發者應共同設定能力上限。他提議,在人類理解與監控AI行為的能力達成特定具體里程碑之前,所有開發者應承諾不跨越這條界線。
Jakub Pachocki提議以「困惑度」(perplexity)作為衡量AI模型智慧的通用標準。困惑度是用來評估模型平均預測下一個資料基本單位「詞元」(token)的表現,數值越低代表預測能力越強。他警告,AI最快可能在2027年推動訓練方法的根本變革,進展速度恐超越監控與安全機制的發展腳步,因此業界需先確立首波限制與達標門檻。
OpenAI執行長奧特曼(Sam Altman)隨後在社群平台X發文支持這項提議,並表示產業界應就AI開發的共同限制達成共識。奧特曼形容這篇文章是「OpenAI近期發布最重要的內容」,強調設定這類界線有助於確保AI的安全與可控性。