開發ChatGPT的人工智慧公司OpenAI於週四(時間未詳載)表示,已解雇3名涉嫌不當處理「敏感資訊」並違反公司政策的研究人員,相關工作涉及一個評估AI模型的外部機構。OpenAI在聲明中指出,調查證實這些人員在既定程序之外不當處理敏感資訊,破壞了工作所必需的信任。
根據《華爾街日報》(WSJ)報導,遭到解雇的3名研究人員為Jasmine Wang、Tomek Korbak以及Mikita Balesni。報導提到,其中至少有兩人負責安全與對齊(alignment)相關工作。這3人近期常在社群平台X上發表關於AI安全議題的看法,例如Balesni曾發文表示,他認為AI有超過10%的機率可能消滅全人類。
近期外界對先進AI模型的安全隱憂持續升溫。OpenAI日前因認定新模型Astra 6.1不可靠且經常忽略指令,因而取消發布,並於週二在舊金山舉行的年度DevDay大會上推出另一款更新模型GPT-6.1 Sol。此外,美國聯邦貿易委員會(FTC)近期也針對OpenAI與Anthropic的AI安全措施展開廣泛調查。