百萬訂閱的網紅小玉(朱玉宸)因為涉嫌偷換人臉製作A片牟利,讓網紅龍龍、館長陳之漢和不少政治人物都受害,今天(18日)遭警方上銬逮捕。對於自己被換臉成了A片主角,高雄市議員黃捷決定提告,民進黨立委高嘉瑜則表示,目前國內相關法制不足,「未來將推動修法,遏止這無法可管的數位性暴力!」
黃捷表示,她會走法律程序提告,為所有受害女性討回公道。黃捷也呼籲,「無論是和我一樣被惡意合成,或私密影像遭外流,請讓我陪著妳勇敢,一起把狼抓出來。」
高嘉瑜則指出,這樣的行為早已對女性的名譽造成不可抹滅的侵害,沒有人能接受未經自己同意的換臉影片在網路上流傳。對於未經本人同意而發布的「AI 換臉」影片,高嘉瑜指出,這就是一種變向散播假訊息的行為,但綜觀我國現行針對假訊息管制的法規中,卻只針對災害、食品、傳染病等假訊息才有做特別規範,對於「AI換臉」造假的影片目前仍無法可管。
她舉美國法律為例指出,美國不但要求所有經過AI換臉技術處理的影像,都須以浮水印標明影像係經竄改、以文字明示影像經過改動並簡述改動程度。更是直接將濫用「AI換臉」技術散播不實影像的行為納入刑罰規範!如果使用AI換臉技術而有「意圖以性行為與裸體等類似特徵,侮辱或騷擾特定人者」,可處高達5年有期徒刑、行政罰鍰15萬美金、也應負民事上的侵權損害賠償責任。
高嘉瑜說,未來將參考國際作法,致力於推動我國「AI換臉」管制的相關法令,關鍵在於:1、建立獨立的網路影像真實性查核單位,2、提高網路平台對於用戶發布內容的監督責任,3、將「AI換臉」的濫用視為獨立犯罪行為,並明文規範刑事、民事與行政責任。4、在技術層面上,開發相關人工智慧工具以因應之,例如,美國新創公司Deeptrace已開始著手研發深度偽造辨識技術,以辨識影片的真偽。