DeepFake新型態犯罪猖獗 美國早編500萬美元預算打擊、社群與色情平台接連遏阻


DeepFake新型態犯罪猖獗 美國早編500萬美元預算打擊、社群與色情平台接連遏阻


匯流新聞網CNEWS 2021-10-19 00:00

匯流新聞網記者王佐銘/綜合報導

台灣知名網紅小玉(朱玉宸)、笑笑涉嫌利用AI繪圖演算技術「deepfake」後製包含知名台灣女網紅、明星名人換臉A片遭逮震驚全台,成為台灣治安史上首例利用繪圖AI演算深偽新犯罪行為,使得不少國內政治人物,甚至總統蔡英文都出面表示期盼能立法控管。但其實類似事件在國際間,早成為常態,不少國家,甚至是社群平台、色情網站早就明確下令禁止,也推出不少解決方案。

Deepfake顧名思義是「Deep learning」和「Fake」的組合,也就是透過人工智慧和合成技術的應用,創造出假新聞或惡搞、惡意影片。這幾年來Deepfake影片不只會被用在惡搞影片,甚至成為有心人的工具,用以操控輿論、影響選舉,甚至成為迫害、騷擾的工具。

早在小玉事件爆發前,去年數位女力聯盟臉書貼文就指出,2020年8月底開始全球前十大的色情網站之一Pornhub上有多個台灣女直播主、網紅和Youtuber的色情影片流傳,這些影片是台灣駭客團隊將這些女性公眾人物頭像合成道色情片內容中產生的,但卻對多位女性公眾人物的生活產生影響。

同樣事情亦發生在美國,為了避免情況更加嚴重,去年美國國會就提撥500萬美元的預算懸賞研發自動偵測Deepfake技術的軟體。針對網路上流竄的Deepfake影片,臉書、推特、微軟等也祭出了相對應的打擊措施。

據悉,臉書方面,執行長馬克.祖克伯雖起初對打擊假消息態度保守,表示即使是假訊息也還是需要維護發言權益,不過2020年初就宣佈將會祭出強硬的相關措施協助杜絕假消息。針對Deepfake影音祭出兩項移除準則,第一種是此類Deepfake影片不是為了強化影音,意在誤導;第二種是藉由AI技術替換或增加內容意圖混淆事實,若被判定為這兩類Deepfake影片,會遭移除處理。

除了社群平台,多個色情網站其實也深受Deepfake技術困擾。Pornhub先前就指出,捷克一家色情片製作公司利用Deepfake,將女性的臉蛋移花接木到許多裸體影片上,再利用開源的 StyleGAN2 模型,並用色情數據集加載到其中進行訓練,讓產生出來的內容非常逼真。使人看不出破綻。雖然整個影片看起來是成人作品並放在色情平台並無錯誤,但這樣的使用方式還是屬於非法盜用,最終多個色情網站的平台已經將其帳號封鎖,並表示這些內容屬於灰色地帶,將會用自己的AI學習團隊進行審查,以預防未來持續有相同的事情發生。

面對AI技術可能帶來的侵害,據了解,其實各大科技廠商早就開始積極網羅人才,希望透過各方專業人士的協助,來打擊利用換臉技術來做不法行為的不肖業者。畢竟如果繼續讓這樣的技術被有心人士濫用,未來很有可能會影響網路消息、新聞的可信度,甚至間接影響到成千上萬民眾的人生。

資策會MIC 先前談論此議題時,就曾表示,隨著AI技術愈來愈接近使用者的行動裝置,未來勢必將出現更多難以辨認出處與其真實性的假影音、假新聞,除了考驗大眾的媒體識讀能力之外,同時也考驗國家與企業,是否具備假影音辨識技術與能力,迎戰充滿資安危機的時代。

對於此事件,總統蔡英文也透過臉書表達她對不法分子運用這項科技的擔心,她認為科技的運用是為了創造人類更好的生活,而非用來傷害他人。這些受害者,可能是你我關心的對象,也可能是你我的親友,政府不能坐視這樣的事情發生。同時也進一步指出,台灣也一直面臨假影片、假訊息的威脅,這些都是利用科技造假、威脅民主制度的挑戰。尤其疫情期間,大家看到大量假訊息的流傳,試圖擾亂人心、影響防疫工作,這些假訊息和影片有一天都可能傷害到你我。

針對換臉色情犯罪等多種類型的網路性別暴力,蔡英文也承諾政府會重新盤點法規,研擬推動修法工作。同時,她呼籲網路平台業者,應該多關心這類新型科技犯罪行為,大家都有責任阻止錯假影像傷害無辜的人。

更多匯流新聞網報導:

沒有三高、不抽菸一樣「腦中風」! 輕忽8大危險因子危機倍增

國際學生髖關節意外「粉碎」 台醫巧手讓她首次回診即恢復行走能力

【文章轉載請註明出處】

熱門文章
獨家|中龍鋼鐵工安意外! 吊車吊掛發電機吊臂斷裂砸中廠房勞檢單位稽查
獨家|中龍鋼鐵工安意外! 吊車吊掛發電機吊臂斷裂砸中廠房勞檢單位稽查

記者爆料網

寶林茶室食物中毒案重大發現!死者解剖確認驗出「米酵菌酸」!
寶林茶室食物中毒案重大發現!死者解剖確認驗出「米酵菌酸」!

食力foodNEXT

獨家/汪小菲求婚成功!示愛新歡Mandy:我的老婆來自台北
獨家/汪小菲求婚成功!示愛新歡Mandy:我的老婆來自台北

CTWANT

快訊/連代9天班!寶林中毒案2死 越籍廚師「過失致死罪」漏夜偵訊無保請回
快訊/連代9天班!寶林中毒案2死 越籍廚師「過失致死罪」漏夜偵訊無保請回

中天新聞

兒童連假吃起來!限時美食優惠一次看 12歲以下「只要畫圖」免費吃到飽
兒童連假吃起來!限時美食優惠一次看 12歲以下「只要畫圖」免費吃到飽

中天新聞

北台灣變天!「雷雨胞將襲」影響程度曝 下周暖熱如夏
北台灣變天!「雷雨胞將襲」影響程度曝 下周暖熱如夏

中天新聞

快訊/「寶林茶室」禍首曝光!衛福部專家會議推測「這毒素」或成元兇
快訊/「寶林茶室」禍首曝光!衛福部專家會議推測「這毒素」或成元兇

中天新聞

醫師不是神!寶林案「行銷鬼才」遺孀喊告醫院 蘇一峰痛批:邏輯何在?
醫師不是神!寶林案「行銷鬼才」遺孀喊告醫院 蘇一峰痛批:邏輯何在?

CTWANT

桃園男登山不慎滑落山坡成冰冷遺體 忠犬護屍4天3夜讓人動容
桃園男登山不慎滑落山坡成冰冷遺體 忠犬護屍4天3夜讓人動容

記者爆料網

清明節禁忌!4生肖容易「卡到陰」勿亂跑 不小心恐沖煞
清明節禁忌!4生肖容易「卡到陰」勿亂跑 不小心恐沖煞

中天新聞

寶林死者家屬喊告醫院! 醫師嘆兩敗俱傷:我們只是要背人命的社畜
寶林死者家屬喊告醫院! 醫師嘆兩敗俱傷:我們只是要背人命的社畜

中天新聞

快訊/寶林茶室案重大發現!台灣首度驗出 首例死亡個案解剖發現「米酵菌酸」
快訊/寶林茶室案重大發現!台灣首度驗出 首例死亡個案解剖發現「米酵菌酸」

記者爆料網

詭異!寶林茶室「只有3/20沒人中毒」 專家曝2可能原因
詭異!寶林茶室「只有3/20沒人中毒」 專家曝2可能原因

中天新聞

中毒案奪2命!他揪公司餐驚「寶林員工全逃過」 餐飲業內幕曝
中毒案奪2命!他揪公司餐驚「寶林員工全逃過」 餐飲業內幕曝

TVBS新聞網

寶林炒粿條超恐怖!造成「全面性細胞死亡」 醫:常見粒腺體毒素就是氰化物
寶林炒粿條超恐怖!造成「全面性細胞死亡」 醫:常見粒腺體毒素就是氰化物

中天新聞

好市多299元「滅蚊神器」超好用!網曝唯一缺點:蚊子炸到無全屍
好市多299元「滅蚊神器」超好用!網曝唯一缺點:蚊子炸到無全屍

中天新聞

寶林茶室第2名死者「也驗出米酵菌酸」 檢警積極追查來源
寶林茶室第2名死者「也驗出米酵菌酸」 檢警積極追查來源

CTWANT

寶林茶室案死者遺體驚現「米酵菌酸」 營養師一圖解析預防懶人包
寶林茶室案死者遺體驚現「米酵菌酸」 營養師一圖解析預防懶人包

記者爆料網

汪小菲求婚Mandy成功!曬鑽戒表示「愛台灣」
汪小菲求婚Mandy成功!曬鑽戒表示「愛台灣」

記者爆料網

寶林茶室公司餐沒人敢吃?客人中毒員工全逃過 內行曝餐飲業黑幕
寶林茶室公司餐沒人敢吃?客人中毒員工全逃過 內行曝餐飲業黑幕

中天新聞

82
0
分享