ChatGPT接受用戶提出任何問題，從向6歲小孩解釋聖誕老人不存在，到完成一段棘手的程式編碼，ChatGPT都能在短時間內給予一份完整的答案，重點是生成的內容看不出來出自機器人之手。這項AI技術的原理是一種大型的語言學習模型，它能夠記住你過去對它說過的話，並經過解析網路上各種文章訓練，模仿人類的方式寫作。
這也馬上引起教育工作者的注意，雖然機器人的回答仍有不完美之處，但其作答結果已經十分接近老師們對學生的期望，不禁引發人們對於可能會利用這項技術完成論文或作業。站在學生的立場，ChatGPT所帶來的誘惑是顯而易見的，就有學生匿名表示自己曾用過ChatGPT在學校測驗中作弊。
ChatGPT的回答未經查證，恐存誤導或偏見資訊
但事實上，ChatGPT的作答仍有明顯錯誤或是偏見，例如在一段用戶請它寫一段RAP歌詞中提到：「如果你看到一位身穿實驗袍的女人，她可能只是在那掃地。」人工智慧研究員梅蘭妮‧米契爾（Melanie Mitchell）表示， ChatGPT會讓我們誤以為它對這個問題有更多的實際了解，但這可能會導致問題，例如加劇誤導性訊息的散播，造成現實世界中的傷害，特別是錯誤的醫療建議 。
由於ChatGPT生成的答案中存在大量錯誤，發問平台Stack Exchange為了保持網站上的答案品質，已禁止使用ChatGPT提供的答案，另一個知名程式編碼論壇Stack Overflow也因為ChatGPT的錯誤答案過多而做出同樣限制。 很多人嘗試使用這項技術創建答案，但卻沒有在發布之前針對專業知識進行驗證。
OpenAI共同創辦人山姆‧歐特曼（Sam Altman）於2022年12月份在一則推文中表示，ChatGPT的能力是有限的，不過它在某些方面的表現確實不錯，並足以給人一種偉大的誤導印象，但所有事情都依賴它的話是錯誤的，而公司在穩健性與真實性方面確實還有很多工作要做。
ChatGPT帶來的教育思考：我們可以如何更好地使用工具？
畢竟機器人無法獨立思考，人們仍必須清楚認知到ChatGPT並非為了問題的答案提供消息來源，只是參考過去的數據資料並進行預測，這也代表著在取得答案後需要針對內容進行雙重驗證。儘管人們十分擔心許多工作會被機器人取代，但ChatGPT所帶來的真正隱憂或許是──演算法和AI等自動化系統，應該在我們的教育系統和文化生產的過程中扮演什麼角色？
密西西比大學助理教授約書亞‧艾勒（Joshua Eyler）認為，這項技術的出現讓老師們可以更深入思考自己指派的作業，並進一步與學生討論創作自己的作品為何重要。艾勒表示，就像電腦的出現改變了數學教學的方式一樣，現在這也是寫作教學的一個類似時刻。除了恐慌以外，一名教育顧問表示ChatGPT可能成為一種有用的工具，可以用於撰寫行銷文案甚至是未來工作中，他認為最重要的是將該工具當作學習的一部分，而不是取代學習。
參考資料：The Washington Post、Make Use Of、VICE、The Leader、The Washington Post、The New York Times
責任編輯：陳建鈞、林美欣
延伸閱讀
更多新聞： 5萬年一遇彗星將飛掠地球 有機會肉眼就能看見
