商傳媒｜葉安庭／綜合外電報導

隨著人工智慧（AI）技術的快速發展，用於偵測AI生成文本的工具也日益普及。然而，根據《華盛頓郵報》的分析報導，這類偵測工具恐將面臨根本性的挑戰，甚至「注定失敗」。報導指出，隨著人類語言與機器語言逐漸融合，AI文本偵測技術的可靠性將隨時間推移而降低。

AI文本偵測技術的原理，是透過分析大型語言模型（LLM）的架構，來識別其獨特的「語言指紋」。然而，報導預期未來人類模仿AI的語言模式會越趨普遍，例如過度使用「深入探討」（delve）或「仔細嚴謹」（meticulous）等詞彙，使得人機語言界線模糊，最終導致兩者難以區分。

提供偵測服務的公司，例如Pangram，其執行長Max Spero坦承，對於資料漂移（data drift，指數據隨時間推移而變化的現象）如何影響模型效果，他們沒有明確答案。該公司的人類撰寫訓練資料庫，為避免ChatGPT推出後的交叉污染，僅基於2022年之前的數據建立。這意味著，隨著時間的推移，越來越多無辜的人可能會被誤認為使用AI，而Pangram的準確性聲稱將變得不可靠。若Pangram找到新的純人類數據進行分析，諷刺的是，這反而可能提高其誤判率（false negative rate），因為更多人將會像AI一樣說話，模型會將這些特徵與人類作者連結。

新研究顯示，當有機會接觸Pangram的應用程式介面（API）時，一種具備自適應能力的「人類化服務」能規避76%的偵測。此外，若模型經過現有作者作品的微調，其生成內容有高達97%的機率會被判定為真實人類撰寫。這也意味著，最惡意的行為者，例如外國散播假訊息的帳戶，反而可能逃脫懲罰。目前市場上已出現針對高階作弊軟體的利基市場，這類服務最終很可能廣泛普及。

未來的AI偵測模型將被迫面對這些問題，這將加速一場「貓捉老鼠」的遊戲，反而會懲罰那些不諳技術的誠實使用者。報導呼籲，應避免進行毫無根據的獵巫行動，尤其在最應該被懲處的人可能逍遙法外之際。社會應該將重點放在促成大型語言模型生成文本的結構性誘因上，而非僅歸咎於個別使用者。