ChatGPT病毒式暴紅嚇壞團隊！研究員坦承「1大危機」尚未解除

生活中心／曾郁雅報導

OpenAI團隊於2022年11月公開ChatGPT程式，在全世界引發病毒式的暴紅擴散，關於「AI取代人類」的話題瞬間引爆，這現象級的受歡迎程度，也讓製作團隊非常驚訝，日前他們接受專訪時，更是表示：「沒想到會這麼紅！」，同時他們也透露目前ChatGPT背後難解的「1大危機」，讓研究員們都感到非常頭痛。

OpenAI團隊接受《麻省理工科技評論》（MIT Technology Review）的訪問，團隊對於這次的「成功」表現得非常謙遜，他們認為這僅是一次「研究成果展示」，表明此項技術其實是兩年來眾學者研究成果的「更完善版本」，團隊並不想對外宣稱這是自己的「重大突破」。

OpenAI團隊的研究員簡（Jan Leike）表示：「老實說，這的確只能用勢不可擋來形容，我們很驚喜也一直努力完善系統。」，而聯合創辦人約翰（John Schulman）也發表自己的感想：「剛發布的那幾天，我一直在推特上查看眾人的反應，在這段瘋狂的期間，我看到各種ChatGPT的對話節圖，我是希望它能夠獲得更多關注，但沒想到能紅到這種程度。」。

雖然面對成果暴紅的情況值得開心，不過團隊也坦承目前ChatGPT面臨難以解決的「1大危機」，研究員珊西妮（Sandhini Agarwal）表示：「ChatGPT太擅長『越獄』了。」她說明，這個程式非常極端，雖然團隊一直加強它拒絕來自眾人的種種「不良要求」，但人類總能想出新辦法，讓聰明的ChatGPT越過編寫程式，使自己不拒絕人們對它的各種要求。

研究員表示，雖然團隊總是抱持著「滾動式修正」的心態面對ChatGPT的種種狀況，「越獄」問題依舊是團隊首要解決的目標，團隊祭出「針對性的對抗訓練」，認為使用此種方法，可以大大改善ChatGPT的問題，雖然目前暫時無法確定這些問題是否能夠因此「完全解決」，不過至少可以讓「越獄」變得更加困難，研究員也坦言：「一旦公開這個系統，就很難預測它們真正的安全問題會出在哪，因此我們非常著重觀察人們出於何種目的使用系統，我們再做出相應的處理。」。

更多新聞： ChatGPT也能當男友！她曬逼人對話笑翻8千網：難怪AI想消滅人類