中國大陸近來接連遭受颱風和豪雨侵襲,官方除了救災,還面臨一項新挑戰,那就是大量利用人工智慧AI生成的假災難影片。當局擔心,這些逼真的AI影像誤導民眾、製造恐慌,已經影響災害應變,近期展開全國打擊行動。(戚海倫報導)

英國廣播公司BBC報導,近幾個月中國大陸的社群平台充斥許多AI人工智慧生成的假災情影片,包括捏造洪水中漂浮屍體、誇大淹水範圍、假冒停電通知,甚至虛構救災畫面,引發部分地區民眾搶購民生物資。廣西衡州日前因為洪水,導致養蛇場大量的蛇逃逸後,網路上又流傳,鱷魚遭到洪水沖進河流的假照片,進一步加劇民眾恐慌。

大陸警方表示,不少內容創作者利用災難新聞博取流量,以AI快速製作聳動影片吸引點閱。最近有多人因為散布假訊息遭到拘留或罰款。大陸國家網信辦宣布展開全國專案,嚴查偽造災情數據、惡意剪輯、冒充官方及移花接木等不實內容,要求社群平台加強審查。

BBC引述學者說法報導,AI大幅降低製造假訊息的門檻,偵測技術卻還落後於生成技術,未來在選舉、公共衛生、戰爭及天然災害等事件中,AI假訊息只會傳播得更快、更廣。警方呼籲,災害期間應以官方發布資訊為準,散布造成重大影響的假訊息,最高可面臨7年有期徒刑。

這篇文章 大陸嚴打AI假災難影片 散布不實訊息最高可判7年 最早出現於 中廣新聞網