AI造假影像有辦法辨識?達人揭解決難題 網嘆:有法必有破
對於防範AI假訊息,AJ表示雖然目前已有在實測,且持續的進行,不過還是有網友覺得,有法必有破,並不能完全解決。(圖/翻攝「泛科學院」YouTube)

影音中心/陳映潔報導

假訊息如今充斥在我們的生活當中,不過在AI持續進步下,恐造成更嚴重的問題,對於AI生成影像,是否有辦法辨識假訊息,有15年的軟體經驗的AJ表示,理論上可以解決,但實際上卻很難達成,且說到未來的趨勢,謠言恐將變成謠圖、謠影片,更難分辨,也有網友覺得,就算有持續的研究出解決方法,但有法必有破,並不能完全解決。

更多新聞: 勤誠:AI產品為主要成長動能 今年營收拚增雙位數

對於AI生成的影像,AJ提到在Sora、Stable diffusion 3推出之後,人眼從中幾乎看不出什麽破綻,且在今年1月份,有一篇發布在IEEE(電機電子工程師學會)上的論文,講述用AI來分辨是否為AI生成的圖片,準確率高達92.98%,利用可解釋人工智慧(XAI),來分析AI分辨的過程,而內容也說明,破綻大部分是難以被人們察覺,有些甚至需要靠景深的散景程度來判斷。

謠言再進化?達人揭反測AI生成問題難實現 網嘆:有法必有破

AJ指出在IEEE(電機電子工程師學會)上的論文,利用AI來分辨是否為AI生成的圖片,準確率高達92.98%。(圖/翻攝「泛科學院」YouTube)

AJ表示,網路上幾乎不會存在任何原始影像,除了利用雲端傳輸外,否則基本上都會被壓縮過,AJ表示,這些細節若消失,會讓找AI破綻的方法,變得相當困難,在未來的趨勢,也可能會從謠言進化成謠圖、謠影片。

謠言再進化?達人揭反測AI生成問題難實現 網嘆:有法必有破

在AI快速的發展下,AJ表示未來的趨勢,恐將會從謠言進化成謠圖、謠影片。(圖/翻攝「泛科學院」YouTube)

AJ也提出,若能先偵測AI並放上浮水印,或許也能有效防範AI假訊息的機會,不過有網友覺得:「有法必有破,就像詐騙手法套路可以破解,但新的詐騙手法出來還是有人會被騙。」。

更多新聞: 世界要變天了!AI大魔王Sora橫空出世 未來將打趴這4個產業