日前在美國社群網路上,開始流傳一則宣稱是由舊金山當地電視台製作的新聞,內容繪聲繪影指控,民主黨的總統候選人賀錦麗,曾在多年前駕車肇事逃逸。
假新聞影片內容:「我媽說撞了她之後逃跑的就是賀錦麗,我很想公開卻又擔心我媽媽。」
但華盛頓大學團隊利用自家研發的核實系統,分析這段影片後卻發現,不僅所謂的當地電視台根本不存在,連影片本身都可能是俄羅斯等境外勢力,用AI技術假造的。
華盛頓大學榮譽教授艾茲沃尼:「可以看到影片中的女性,她的嘴巴動態一點都不自然,目前只要稍微用心看還是能辨別真假,但未來只要技術進步,聲音跟嘴巴動態更加一致,不用上這種工具的話就會更難分辨。」
美國大選戰況激烈,同時也出現五花八門的假訊息在各地流竄,藉此動搖選民想法。
例如今年(2024年)1月在美東的新罕布夏州,就有上千人接到了這樣的不明電話。
不明電話:「重點是要把票留到真正大選時,你的票在11月時會更有意義。」
乍聽之下,電話裡的聲音和現任總統拜登十分相似,內容則是呼籲民眾,不要參與當時正在進行的民主黨初選投票。
警調介入調查才發現,這其實是業餘人士,利用生成AI學習拜登的聲音後,製造的虛假語音。
專家也再三警告,這種低成本的深偽訊息,對民主社會的嚴重傷害。
華盛頓大學榮譽教授艾茲沃尼:「現在甚至是小團體或者個人,都可能製造出極有影響力的深偽訊息,引發所謂的『假訊息恐攻』。」
科技迅速發展,讓不肖分子能更輕易產出各種真假難辨的訊息,並迅速散播至各個角落,不只衝擊此次的美國大選,世界各國更必須嚴防,未來這些虛假資訊,對選舉及民主造成的衝擊。
更多新聞: 學姊出任政院發言人 曾若琦接棒《民視全球新聞》