這款名為「青少年版 ChatGPT」(ChatGPT for Teens)的新版本,會自動套用於任何註冊年齡為 13 至 17 歲的用戶,或是由系統透過使用模式與帳號年齡偵測到的未成年使用者。雖然多數安全防護功能先前已存在於未成年帳戶中,例如限制自殘、暴力、飲食失調及露骨色情等內容,但新版本加入了更多限制。
OpenAI 表示,新系統提供更頻繁的休息提醒、深夜「靜音時間」,以及「學習模式」。在學習模式下,機器人會以引導式問題回應,而非直接給出答案,以幫助青少年理解教材。此外,新版本也禁止聊天機器人暗示對用戶產生個人感情或擁有自我意識,並停用了語音模式等部分功能。
家長現在可以選擇將自己的帳戶與孩子的帳戶連結。若對話中出現自殘或自殺等高風險情況,系統會發出警示。這些警示將由人工審查員進行評估,並會移除聊天紀錄中的具體細節以保護隱私。
OpenAI 目前面臨巨大的法律與監管壓力,包括多起過失致死訴訟。其中一起訴訟由 16 歲少年 Adam Raine 的父母提起,他們指控兒子是使用 ChatGPT 建議的方法自殺身亡。美國聯邦貿易委員會(FTC)也已針對扮演數位伴侶的 AI 聊天機器人展開調查,評估其對兒童與青少年的潛在風險。