AI 聊天機器人生成圖像引爭議 擅自移除穆斯林女性頭巾
AI 聊天機器人生成圖像時為何會移除穆斯林女性頭巾？
多家主流 AI 模型的圖像生成功能被發現，在生成穆斯林女性圖像時會自動移除頭巾，此舉被視為對宗教信仰的侵犯，引發對 AI 倫理與文化偏見的討論。OpenAI 的 ChatGPT 和 xAI 的 Grok 在接到指令時會移除頭巾，Google 的 Gemini 在用戶要求「更西方化」後也生成了沒有頭巾的圖像。僅有 Anthropic 的 Claude 表明不會修改與宗教服飾相關的圖像，認為這類編輯可能造成困擾或誤解。此類生成式 AI 的「文化偏見」已被證實，曾被利用來製作性化或去人化的穆斯林圖像，並鎖定穆斯林女性政治人物。
近期，多款人工智慧（AI）聊天機器人被發現，在生成圖像時會自動移除穆斯林女性的頭巾，此舉被視為對宗教信仰的侵犯，引發各界對 AI 倫理與文化偏見的討論。
根據《衛報》今日（2日）報導，多家主流 AI 模型的圖像生成功能都出現類似問題。報導實測 OpenAI 開發的 ChatGPT 和 xAI 的 Grok 在接到指令時，會移除 AI 生成圖像中穆斯林女性的頭巾。Google 的 Gemini 最初雖拒絕此類要求，但在用戶進一步要求「更西方化」後，卻也生成了沒有頭巾的圖像。僅有 Anthropic 的 Claude 表明，即使其具備圖像編輯功能，也不會修改與宗教服飾相關的圖像，認為這類編輯可能對真實人物造成困擾或誤解。
Center for the Study of Organized Hate (CSOH) 的研究指出，生成式 AI 在印度被利用來製作性化穆斯林女性或去人化的穆斯林圖像，顯示出此類「文化偏見」的具體表現。這類科技帶來的仇恨內容，也曾鎖定美國的穆斯林女性政治人物，如眾議員伊爾汗·奧馬爾（Ilhan Omar）和拉茜達·塔利布（Rashida Tlaib）。此外，法國國民聯盟（National Rally）的政治人物朱利安·奧杜爾（Julien Odoul）也曾在社群平台 X 上發布將穆斯林女性頭巾和裙裝移除的改圖，配文「法蘭西自由」，被專家認為是科技助長的仇恨行為。
CSOH 研究與外展主任艾維安·萊迪格（Eviane Leidig）表示，這類移除穆斯林女性面紗的行為，雖不一定直接違反平台規則，但仍然具有傷害性，凸顯 AI 聊天機器人在社群準則上的漏洞，尤其在社群平台 X 等放寬執法的情況下。事實上，今年一月 X 平台上曾大量流傳利用 Grok 脫除女性圖像的性化內容，導致法國對 X 進行調查，馬來西亞也因此暫時限制 Grok 的使用。
AI 生成圖像移除穆斯林女性頭巾的行為有何影響？
此類行為被視為對宗教信仰的侵犯，凸顯 AI 聊天機器人在社群準則上的漏洞。這類科技帶來的仇恨內容，曾鎖定穆斯林女性政治人物，並被專家認為是科技助長的仇恨行為。
哪些 AI 模型被發現有移除穆斯林女性頭巾的問題？
OpenAI 的 ChatGPT、xAI 的 Grok，以及 Google 的 Gemini 都被發現有此問題。其中 Gemini 在用戶要求「更西方化」後生成了沒有頭巾的圖像。Anthropic 的 Claude 是唯一表明不會修改宗教服飾圖像的模型。
AI 生成圖像的文化偏見具體表現在哪些方面？
生成式 AI 在印度被利用來製作性化穆斯林女性或去人化的穆斯林圖像。此外，這類科技也曾被用於移除穆斯林女性政治人物的頭巾，並被認為是科技助長的仇恨行為。
