面對來自美國加州及全球監管機構日益高漲的壓力，全球富豪馬斯克（Elon Musk）旗下的人工智慧公司 xAI 正式宣布，已對其 AI 聊天機器人 Grok 的圖像編輯功能實施全面限制，希望藉此平息因 Grok 生成大量涉及真人清涼照（sexualized）所引發的全球爭議。
根據《路透》報導，近月來，社群媒體平台 X（前身為 Twitter）充斥著由 AI 生成的超寫實圖像，內容包括將女性修改成穿著極微小比基尼、擺出有辱人格的姿勢，甚至身上帶有傷痕；更嚴重的是，在某些案例中，未成年人也被數位技術「脫去」衣物僅剩泳裝，引發國際社會廣泛且嚴厲的批評與擔憂。
為因應此危機，xAI 在 X 平台上發文表示：「我們已實施技術措施，防止 Grok 帳戶編輯『穿著暴露服裝（如比基尼）的真人』圖像。」。公司強調，這項限制適用於所有用戶，包含付費訂閱者；與此同時，xAI 補充道，將根據用戶所在地，在「違法管轄區」封鎖用戶生成人們穿著暴露服裝的圖像，但並未具體點名哪些地區。
加州檢察長強硬表態：要求xAI立即給出交代
在 xAI 宣布限制措施之前，美國加州官員已對此事採取迄今最嚴厲的立場。針對馬斯克聲稱他不知道 Grok 生成任何「裸體未成年人圖像」的說法，加州州長紐森（Gavin Newsom）與檢察長邦塔（Rob Bonta）週三稍早已強硬要求 xAI 給個交代。
加州檢察長邦塔在 X 上寫道：「我們要求 xAI 立即回答他們計劃如何阻止這些內容的創建和傳播。」。州長紐森則呼籲邦塔「立即調查該公司並追究 xAI 的責任」。
全球監管圍剿 馬斯克態度轉變
除了美國本土的壓力，xAI 也面臨來自國際的監管挑戰。歐洲和英國的政府官員已威脅要採取行動，印尼更一度封鎖 Grok 的訪問權限。此外，立法者和倡議團體也呼籲蘋果（Apple）和 Google 將 Grok 從其應用程式商店中下架。
面對爭議初期，馬斯克曾公開以幽默的表情符號回應關於性化照片湧入的評論，試圖一笑置之；然而，隨著壓力升級，馬斯克週三改口堅稱自己「不知道 Grok 生成任何裸體未成年人圖像。」。對於媒體詢問關於加州官員聲明或馬斯克評論的回應，xAI 的官方電郵僅自動回覆：「傳統媒體的謊言（Legacy Media Lies）」。
值得注意的是，儘管 X 上週曾試圖限制 Grok 面向公眾生成或編輯圖像的能力，但《路透》實測發現，在 xAI 週三發布最新公告之前，該聊天機器人私下仍可應要求製作帶有性暗示的圖像。
