商傳媒｜責任編輯／綜合外電報導

AI 開發商 Anthropic 於週一宣布，旗下的 Claude 人工智慧（AI）模型將為其生成的文字內容加入浮水印（AI watermarking），以遵循歐盟（EU）的新法規。這項規定要求所有 AI 生成文字必須加註浮水印，預計於今年 12 月生效。

所謂的 AI 浮水印，是指在 AI 生成的文字中加入肉眼難以察覺、但程式碼可辨識的隱藏模式或標記。Anthropic 將在文字生成的細微隨機層次上進行浮水印處理，目的是讓一般讀者無法察覺。這種技術會改變 AI 模型在組織句子時的隨機選擇，留下只有 Anthropic 和持有解碼金鑰者才能偵測到的特定模式。

這項技術的推行有助於打擊假資訊的散播，並能避免「模型崩潰」（model collapse）現象——即 AI 模型在大量 AI 生成內容上進行訓練後，開始混淆概念，導致品質下降。例如，一份頂尖化學期刊曾因作者疑似使用 AI 工具撰寫部分內容而撤稿，該 AI 工具在描述一種鋅奈米凝膠的段落中，將「最終解決方案」誤替換為「大規模殺害一個族群」等不當詞彙。

然而，這項措施也引發了部分疑慮。資深科技部落客約翰·格魯伯（John Gruber）對此表達了批判，認為這是一種對寫作本質的「乖謬玷污」。但 University College London 電腦科學教授史蒂文·默多克（Steven Murdoch）則認為，浮水印對內容品質的影響可能微乎其微。他指出，大型語言模型本來就內含隨機性，這是其運作的關鍵，若缺乏隨機性，模型便會陷入重複循環。默多克強調，即使加入了統計上可預測的浮水印模式，模型本身的隨機性依然存在，因此不會有明顯差異。