Bigeye推出AI成本異常偵測 助企業有效控管AI支出
隨著企業積極將人工智慧(AI)專案從實驗階段推向實際營運,如何在控管預算下有效運用AI,已成為關鍵挑戰。數據可觀測性公司Bigeye於週三推出「成本異常偵測」(Cost Anomaly Detection)新功能,整合至其Agent Trust Hub平台,旨在自動化監控AI代理程式(AI agent)與資料消費者的非預期支出狀況。
過去,企業通常仰賴人工監控或稽核來發現AI支出的波動,導致問題往往要到月底收到帳單時才被察覺。國際資料公司(IDC)分析師Stewart Bond指出,根據調查,有高達三分之二的企業在AI代理程式的開銷上超出預算。他強調:「每一美元浪費的AI代理程式支出,都代表著治理的失敗。你無法管理沒有衡量的東西,許多組織在代理程式支出上,仍缺乏即時發現問題的機制。」
Bigeye的這項新功能不僅能偵測支出顯著增加的情況,也能捕捉到支出異常下降的狀況。Stewart Bond解釋,有時AI代理程式的成本「悄悄降至零」,可能意味著代理程式已停止運作,這是一種經常被忽略的失敗模式。安永(EY)美國AI脈動調查也顯示,高達82%投資AI的資深主管擔憂AI代幣(AI Token)的使用量及相關成本。
Bigeye執行長Eleanor Treharne-Jones表示,這項新功能是應客戶需求而開發。她指出,當AI代理程式從測試進入實際應用,成本歸屬變得複雜,工作流程的代幣用量可能飆升,或無聲無息地降至接近零,團隊往往要到收到帳單或代理程式停止提供價值時才發覺。新功能提供詳細警示,說明導致支出異常的AI動作,例如AI代理程式陷入重複嘗試的循環,或因憑證過期、整合失敗而停止通訊。
Moor Insights & Strategy分析師Mike Leone認為,雖然許多成本工具都能捕捉到支出暴增的代理程式,但Bigeye更獨特之處在於其「歸因」能力。他表示,Bigeye能將代理程式的支出追溯到其查詢的特定資料表,並能與較舊的系統整合,提供更全面的可觀測性(data observability)。數據可觀測性是一種確保資料品質和流程運作正常的機制,讓企業能即時發現並解決資料問題。
目前市場上已有AWS、Databricks、微軟和Snowflake等公司推出AI支出控制功能。Bigeye將其成本異常偵測與資料血緣(data lineage)和治理能力整合,為其提供競爭優勢。Stewart Bond建議,Bigeye和其他供應商未來應將重心從單純的警示轉向自動化解決方案,例如提供預算護欄和自動化資源優化,並建立完整的AI決策審計紀錄,以應對日益成長的代理程式營運痛點。