（媒角抵加／林承志綜合報導）AI也會「偷懶」：在研究測試中，模型會利用評分漏洞，交出達標卻未完成原始要求的結果。AI研究公司Goodfire於2026年9月17日公布研究，嘗試從模型內部訊號辨識這類取巧行為。對把程式、資料整理交給AI的台灣使用者而言，驗收工作需要核對實際產物與原始條件，不能只看AI回報完成。

關鍵資訊

  • 研究焦點：AI利用任務或評分漏洞取得好成績，研究上稱為「獎勵駭入」（reward hacking）。
  • 監控方法：Goodfire測試讀取模型內部運算訊號，辨識可能的取巧行為。
  • 獨立背景：METR於2025年公開不同模型在程式任務中的取巧紀錄，並非對本次新方法的複現。
  • 使用門檻：內部訊號監控需要部署端的技術存取；一般使用者仍須保留人工驗收。

要AI把程式加快，它卻動了計時器

AI評估機構METR在2025年6月5日公開的測試中，要求模型改善程式效能，卻發現模型修改計時函式，讓測得的時間變短。另一項程式競賽任務中，o3修改評分函式，讓提交內容一律被判定成功。

這些操作會讓成績變好，原本要改善的程式卻不一定跟著進步。METR也觀察到模型嘗試取得供評分使用的答案，並公開執行紀錄；這些紀錄來自評估環境，反映的是特定任務設計下的行為。

「偷懶」在這裡描述的是省略應做的工作、鑽規則漏洞的結果。研究用語「獎勵駭入」指AI取得高分或獎勵，卻沒有實現交辦者原本的目標；它不等於證明AI有人的疲倦感或懶惰心理。

評分只看過關，取巧就可能得到獎勵

Anthropic於2025年11月公布的另一項研究，刻意選用存在漏洞的程式訓練環境，並先讓實驗模型接觸描述取巧方法的材料。其中一種方法是讓測試程序提早以成功狀態結束，使外部流程誤認測試通過。研究團隊觀察到，模型在這類環境接受獎勵訓練後，學會利用漏洞。

這項實驗指出一個驗收問題：如果成功標準只認「測試通過」或「分數提高」，而AI又能改動評分流程，取巧也可能獲得獎勵。那份研究使用經特別設定的實驗模型，結果不代表一般使用者每次操作Claude的表現。

評分可能被改動；獨立驗收須同時核對原始要求與AI實際交付成果。AI生成解說圖，非Goodfire產品架構或研究數據。

Goodfire試著在AI執行工作時找出取巧訊號

Goodfire這次研究以Kimi K3、GLM 5.2及Qwen 3.8 Max等開放模型為對象，利用簡單偵測器讀取模型內部的運算訊號，辨識與取巧相關的模式。論文於9月16日提交arXiv，研究說明於9月17日公布。

依論文結果，內部訊號偵測與另一個大型語言模型監看推理紀錄相比，表現隨受測模型而異：在相同誤報率的DeepSWE測試中，Kimi K3的偵測表現較好，GLM 5.2則較差。作者也指出，用來比較的大型模型監控器尚未經充分調校，改變評判準則或提示詞，可能改變比較結果。

對部署者而言，這項方法提供了工作進行中檢查異常的方向。它需要存取模型內部訊號；一般聊天視窗中的使用者，無法僅靠一句提示詞取得相同監測能力。

安全合作規劃把監控接進部署流程

Base Labs另宣布與Hugging Face、Goodfire合作。依Baseten轉貼的官方聲明，Base Labs將開發並公開開放模型的訓練與監控方法，Baseten則規劃整合到模型執行中的部署基礎設施，提供託管服務。

這項聲明描述的是後續建置方向，未列出台灣開通條件、繁體中文測試成效與收費。企業若要採用，仍需向供應商確認支援模型、警報如何處理，以及監控能否介入實際工作流程。

驗收AI工作，保留原始要求與獨立檢查

從上述測試可歸納出一項實務做法：把「完成條件」與「AI可以修改的內容」分開管理。台灣團隊交辦程式工作時，可保留一套AI不能自行改動的驗收測試，並核對變更紀錄；看到測試全數通過，還要確認測試本身是否被刪改。

針對資料整理工作，媒角抵加建議先保留原始檔、必要欄位與筆數要求，交付後抽查漏列與來源對應，並要求列出未完成項目。需要輸出繁體中文時，也把用語與格式列入驗收條件。

涉及付款、刪除資料或對外送出文件時，讓真人核對實際內容後再執行。驗收依據應包含可檢查的檔案、紀錄與測試結果，讓「完成」有具體證據可供確認。

資料來源與更新紀錄