生成式AI讓學生在短短數秒內就能產出各類作業解答，引發教育界所謂的「作業詐騙」危機。然而研究顯示，現行的AI文字偵測工具常出現誤判，不僅破壞師生互信，甚至可能引發法律糾紛。包含耶魯大學（Yale University）與康乃爾大學（Cornell University）在內的多所美國高等學府，已禁止或不建議教師將偵測工具作為判定作弊的主要依據。
威斯康辛大學麥迪遜分校（University of Wisconsin-Madison）細菌學系教授 Timothy Paustian 曾嘗試在題目中加入隱藏指令，要求AI在特定段落提及特定顏色，成功抓出350名學生中的60人違規。然而，隨著大型語言模型升級與學生警覺性提高，這類防範手法已逐漸失效。多位美國大學教授受訪時指出，他們正考慮改採「書面作業搭配口試」或視訊辯論等全新評量模式。
研究人員指出，市面上已出現能將AI生成文字改寫得更自然的「擬人化軟體」，使AI偵測更形同虛設。美國大學協會與埃隆大學調查顯示，高達95%的大學教職員擔憂學生過度依賴AI；麻省理工學院（MIT）的報告更警告，學生一遇到困難就求助AI可能導致「認知放棄」。
不過，學術界對此也有不同看法。哈佛學院院長 David Deming 就建議在寫作課程中接受甚至鼓勵使用AI，認為應培養學生善用AI技能以符合職場需求，並直言「退出AI偵測的競賽對大家都有好處」。
