日常AI工具暗藏性深偽功能 研究揭廣告與商店審核漏洞

(媒角抵加/林承志綜合報導)寵物照片、髮型設計等看似日常的AI應用程式,背後可能藏有製作非自願性影像的功能。非營利研究組織AI Forensics追查一組相互關聯的應用程式與廣告,發現部分程式會依使用者進入來源顯示不同畫面。WIRED於11月2日報導,Apple在接獲媒體提供的相關網域後下架19款App;Meta也表示已對相關廣告帳號及頁面採取處置。
關鍵資訊
- 研究發現:研究者從網站設定及廣告追查出444筆相關應用程式,數量不代表它們在同一時間都在商店上架。
- 隱藏方式:研究個案從一般商店入口安裝時顯示日常功能,特定廣告入口則導向不同內容。
- 平台回應:Apple稱已下架19款App;Meta稱已處置相關帳號並阻擋部分App投放廣告。
- 台灣求助:性影像事件可向衛福部性影像處理中心申訴或諮詢;本案在台受影響人數尚未公布。
普通照片工具背後 研究者追出兩種畫面
AI Forensics研究員Paul Bouchaud在《Advertised by Design》報告中表示,研究團隊檢視一款在Google Play上架、表面提供髮型與換裝功能的App,並分析其程式碼及對外介面。研究者發現,從商店一般入口安裝時出現日常編輯功能;經Meta廣告進入的使用者,則可能看到載入App內的另一套網頁介面,提供製作性影像的功能。報告含模糊處理的性影像截圖。
WIRED的調查也描述另一款以寵物肖像為外觀的App,在特定條件下會載入不同介面。這類工具可能利用可辨識人物的照片,製作本人未同意的性影像,對當事人造成傷害。
AI Forensics進一步從相關網站的設定資料追查應用程式之間的關聯,辨識出444筆App紀錄。研究團隊指出,截至2026年9月11日,其中27款仍可在Google Play找到、21款仍在Apple App Store;這是研究當時的觀察,不代表目前上架數量。研究也依廣告文字等特徵,在Meta廣告資料庫辨識出2026年1月起超過8萬4,000則符合該網絡模式的廣告,屬於研究者的辨識結果。
Apple下架19款 Meta稱處置相關廣告帳號
Apple發言人向WIRED表示,這批App審核時符合規則,但開發者在核准後更換App所載入的網站內容;Apple在收到相關網域資訊後下架19款App。WIRED報導,Google在接獲詢問前已下架多數相關App,並未回應該媒體的置評請求。
Apple此前已於10月16日更新App審核指引,明訂應用程式不得在審核時隱瞞用途、核准後才出現有害功能,也要求內容平台處理包含AI生成內容在內的非自願私密影像。Google Play開發者政策也禁止散布非自願性內容,以及以深偽技術製作的非自願性影像。
Meta則向WIRED表示,已對與相關網域連結的11,600個廣告帳號等採取行動,並阻擋209款App在其平台投放廣告;這些數字是公司的處置說明,與商店下架數量分屬不同統計。Meta曾於2025年宣布禁止宣傳這類工具,並表示會與其他科技公司分享違規網址訊號。
另一項研究檢視換臉工具 安全防護仍有缺口
除了這次追查的網絡,研究人員Alaa Daffalla、Sarah Chao與Eric Zeng在2026年發表的預印本研究檢視AI換臉App的防護措施。研究者辨識420款相關App,並對其中155款符合條件者進行測試;其中109款對研究使用的4組測試圖像均允許產生裸露換臉影像,約占受測App的70%。
這項研究與AI Forensics本次調查的樣本及方法不同,呈現的是一般換臉工具可能遭濫用的另一個面向。AI Forensics報告中的網絡規模、平台下架與廣告處置,也各有不同統計期間及對象。
台灣受害者可向性影像處理中心求助
目前研究報告未提供這組App在台灣的下載或受害人數。若發現自己的影像遭冒用或散布,可向衛生福利部性影像處理中心申訴或線上諮詢;中心提供非法性影像移除下架受理,服務專線為02-6605-7373,每天上午9時至晚上10時服務。
衛福部提醒,遭威脅時保留相關證據、對話與對方帳號,並尋求信任的人或相關單位協助。發現涉及兒少性剝削的情況,也可透過113保護專線通報或諮詢。
資料來源與更新紀錄
- AI Forensics:《Advertised by Design: Nudify Apps on Meta, Google Play and the App Store》,研究員Paul Bouchaud,研究報告PDF,資料截至2026年9月;報告含模糊處理的性影像截圖。
- WIRED:Hundreds of Mundane AI Apps Are Hiding Sexually Abusive Deepfake Features,2026年11月2日。
- Apple:強化App審核指引,2026年10月16日。
- Google Play:不當內容政策。
- Meta:Taking Action Against ‘Nudify’ Apps,2025年6月12日。
- Daffalla等人:Dual-Use AI Face Swap Apps Are Mostly Unsafe,2026年5月預印本。
- 衛生福利部性影像處理中心;113保護專線介紹。
- 2026年11月3日:依研究報告、平台公開規則及媒體查證撰稿。
日常AI工具暗藏性深偽功能,平台如何回應?
研究發現部分日常AI應用程式,透過特定廣告入口可能導向製作性影像的功能,利用使用者照片製作本人未同意的性影像。Apple在接獲相關網域資訊後,已下架19款App;Meta則表示已對相關廣告帳號及頁面採取處置,並阻擋部分App在其平台投放廣告。Google Play開發者政策禁止散布非自願性內容及以深偽技術製作的非自願性影像。
AI Forensics研究追蹤到多少相關應用程式?
AI Forensics研究團隊從相關網站設定及廣告追查出444筆應用程式紀錄。研究者在Meta廣告資料庫中,也辨識出2026年1月起超過8萬4,000則符合該網絡模式的廣告。
在台灣遇到性影像事件該如何求助?
若在台灣遇到性影像事件,可向衛福部性影像處理中心申訴或諮詢相關協助。此案在台灣受影響人數尚未公布。
AI換臉App的防護措施是否足夠?
另一項研究檢視AI換臉App的防護措施,發現測試的155款App中,有約70%(109款)允許產生裸露換臉影像,顯示安全防護仍有缺口。