生成式AI、假訊息流竄 美國總統大選防認知戰
來源 美聯社

民視新聞/綜合報導

能自動產生各種文字及影像內容的生成式AI,成為近期熱門科技關鍵字,卻也造成各種真假難辨的訊息,在網路上四處流竄。現在美國就憂心,明年(2024年)的總統大選,中俄等國恐趁機散播大量假資訊,藉此影響選情,從科技業到前國安官員,都呼籲政府必須盡早立法控管。

更多新聞: 快新聞/中國又抓人!日本製藥企業主管被控「間諜」

共和黨宣傳影片:「中國在今天上午對台灣展開攻擊,金融市場陷入大崩潰,有500間區域銀行破產。」

美國共和黨最新推出的宣傳影片,警告2024年若讓拜登連任總統,美國面臨空前的外憂內患,激起支持者的危機意識。但製作這則影片的並非人類,而是時下最夯的生成式AI。隨著技術日新月異,生成式AI可在短時間內,製出影像圖片,其中卻也包含大量真假難辨的訊息。有企業就開發出,可判斷影像是否為假造的系統,但也呼籲官方必須出手管制。

研發企業CEO柯爾曼:「這套軟體會分析整段影片,例如是否有變臉、嘴型與聲音是否一致,還有人臉上的血色之類的,製作深偽資訊的人會使用五花八門的手段,唯一的解決方案就是規範。」

但緊接著明年就是美國總統大選,前國安官員就憂心,會有外國勢力利用AI生成的假訊息動搖選情。

美國前國安局長羅傑斯:「我們最關注的就是俄羅斯,而中國也有在進行相關動作,試圖要滲入向美國或日本這些,保障言論自由的民主國家。」

俄羅斯在2016年的美國大選時,就被懷疑在網上散播大量,不利於希拉蕊的假訊息,最終促成川普當選。前官員除了強調,必須嚴防莫斯科當局故技重施,美國官方也必須盡早針對生成式AI,展開適當控管,才能有效阻擋這波認知戰攻勢。

更多新聞: 中網狂噴以色列!敲碗以巴重設國界 他譏小粉紅:中共不也寸步不讓