商傳媒｜林昭衡／綜合外電報導

隨著人工智慧（AI）應用日益普及，企業在導入 AI 代理人時，卻面臨傳統監控工具難以辨識其運作可靠性的困境。MOYAI Co., Ltd.（MOYAI）創辦人羅伯特·霍梅斯（Robert Hommes）指出，AI 代理人（AI agent）可能在技術層面上成功完成任務，但實際上卻產生錯誤的業務結果，凸顯建立新的可觀測性模型（observability model）刻不容緩。

羅伯特·霍梅斯強調，最危險的 AI 代理人，就是在技術上看似順利完成任務，實則產出錯誤結果。他舉例，採購代理人若被指示購買特定咖啡豆，可能在與採購系統成功溝通後，卻持續送出錯誤的產品參數，因為它在比對庫存記錄時，錯誤地參考了其他產品類別。儘管傳統基礎設施監控顯示系統運作正常，但從業務角度來看，這個代理人卻不斷造成錯誤結果。AI 代理人是指能自主執行任務、與系統互動的人工智慧程式，與傳統聊天機器人不同，它們具備工具，通常與企業內部系統連結，任何錯誤的使用若未正確紀錄或傳達，將導致組織對實際情況產生嚴重誤判。

傳統的可觀測性工具是為確定性系統（deterministic systems，指行為結果可預期的系統）而設計，依賴 HTTP 錯誤碼等已知的失效模式。然而，AI 代理人即使發出有效的請求並收到有效的回應，仍可能做出錯誤的判斷，這挑戰了傳統上 200 狀態碼代表成功的假設。可觀測性模型指的是監控系統內部狀態、判斷其健康與效能的方法與框架。在這種情況下，基礎設施記錄的是成功的互動，但業務卻遭受失敗，這種可靠性問題無法單靠收集更多傳統技術訊號來解決。羅伯特·霍梅斯認為，現行的安全措施，如人工審核（human-in-the-loop architectures）、監控企業系統支出及交易量，以及防止代理人超越界限的控制，雖有其價值，卻無法根除問題核心，因為這些機制往往要等到錯誤影響夠大才被偵測到，屆時為時已晚。

傳統可觀測性模型圍繞著既有模式建構，當錯誤發生時，團隊會找出模式並建立規則來偵測。但 AI 代理人引入更大的變異性，其決策依賴上下文、輸入、工具互動與詮釋，難以事先枚舉，導致這種持續為已發生錯誤建立規則的模式，如同「打地鼠」遊戲，永遠疲於奔命。霍梅斯因此提出「異常優先偵測」（anomaly-first detection）的替代方法，主張組織應先辨識不尋常的行為，再判斷這些偏差是否構成真正的問題。這種方法先找出「哪裡不同」，再判斷「不同的地方是否錯誤」，能帶來更好的偵測動態。

羅伯特·霍梅斯認為，為確定性系統開發的監控模型，不能直接套用於自主代理人。他呼籲將 AI 代理人的可靠性視為一門獨立學科和新的產品類別。透過持續的行為分析，輔以現有可觀測性、人工監督與系統級控制，可在重大後果發生前識別出偏差，讓組織能及早理解並處理有意義的異常狀況。