對於AI生成的影像,AJ提到在Sora、Stable diffusion 3推出之後,人眼從中幾乎看不出什麽破綻,且在今年1月份,有一篇發布在IEEE(電機電子工程師學會)上的論文,講述用AI來分辨是否為AI生成的圖片,準確率高達92.98%,利用可解釋人工智慧(XAI),來分析AI分辨的過程,而內容也說明,破綻大部分是難以被人們察覺,有些甚至需要靠景深的散景程度來判斷。
AJ表示,網路上幾乎不會存在任何原始影像,除了利用雲端傳輸外,否則基本上都會被壓縮過,AJ表示,這些細節若消失,會讓找AI破綻的方法,變得相當困難,在未來的趨勢,也可能會從謠言進化成謠圖、謠影片。
在AI快速的發展下,AJ表示未來的趨勢,恐將會從謠言進化成謠圖、謠影片。(圖/翻攝「泛科學院」YouTube)
AJ也提出,若能先偵測AI並放上浮水印,或許也能有效防範AI假訊息的機會,不過有網友覺得:「有法必有破,就像詐騙手法套路可以破解,但新的詐騙手法出來還是有人會被騙。」。
更多新聞: 世界要變天了!AI大魔王Sora橫空出世 未來將打趴這4個產業