高德納報告示警:半數生成式AI專案2028年前恐陷超支危機
📋 重點摘要
●
Gartner最新報告示警,半數生成式AI專案可能在2028年前面臨預算超支危機。
●
企業在將生成式AI從實驗階段轉向實際生產時,常因架構選擇不當及營運專業知識不足而導致成本劇增。
●
模型推論成本預計將佔生成式AI專案總支出的七成以上。
●
AI Agent的多步驟工作流程和多次模型呼叫將顯著推升AI使用量及相關成本。
●
Gartner建議企業應加強成本治理、架構效率、模型選擇及使用監控,以避免預算失控。
相關組織:
Gartner
商傳媒|葉安庭/綜合外電報導
![]()
高德納諮詢公司(Gartner)最新報告指出,企業將生成式人工智慧(GenAI)專案從實驗階段推進到實際生產應用時,可能面臨嚴重的預算超支風險。報告預測,由於架構選擇不當及缺乏營運專業知識,高達半數的生成式 AI 專案恐在 2028 年前超出預算。
高德納研究人員發現,企業將生成式 AI 專案從試驗(pilot)階段轉為實際生產時,常常會經歷一場「殘酷的覺醒」。建構一套生產就緒的生成式 AI 系統,其成本可能比運行試驗專案高出好幾個數量級。這項預測顯示,到了 2028 年,至少有 50% 的生成式 AI 專案將因不佳的架構決策和營運專長不足,導致預算超支。
高德納指出,企業面臨的真正考驗是如何在規模化運作下,仍能高效運行 AI 系統。模型生命週期中,推論(Inference,指模型運用已學習知識生成結果的過程)成本預計將佔至少七成的開支。此外,與傳統僅生成單一回應的聊天機器人不同,AI Agent(人工智慧代理)可能觸發多次模型呼叫、檢索資料、存取外部工具並執行多步驟的工作流程。隨著企業部署更多自主系統,AI 的使用量及相關成本也將顯著攀升。
為避免預算失控,高德納建議企業應專注於成本治理、提升架構效率、謹慎選擇模型,並加強使用監控,以確保生成式及人工智慧代理能在不產生難以承受開支的情況下,順利規模化。
🤔 讀到一半,先表個態?
🎯 搶頭香!這篇你的反應?