高德納預警:AI代理推論成本恐飆升至2028年,企業需精通上下文工程因應
商傳媒|何映辰/台北報導全球知名的資訊科技研究顧問公司高德納諮詢公司(Gartner)已預期,人工智慧(AI)代理的推論(Inference)成本將在2028年前顯著增加。這意味著AI模型實際運行、產生結果時所需的費用,恐將對企業帶來不小的壓力。這些能夠自主執行任務的人工智慧程式,
商傳媒|何映辰/台北報導全球知名的資訊科技研究顧問公司高德納諮詢公司(Gartner)已預期,人工智慧(AI)代理的推論(Inference)成本將在2028年前顯著增加。這意味著AI模型實際運行、產生結果時所需的費用,恐將對企業帶來不小的壓力。這些能夠自主執行任務的人工智慧程式,
商傳媒|何映辰/台北報導全球人工智慧(AI)產業可能正響起泡沫破裂的警鐘。一個追蹤大型語言模型(LLM)使用成本的關鍵指標——LLMTokenExpenditureIndex(大型語言模型代幣支出指數)顯示,該指數已從歷史高點崩跌約五成,目前每百萬個Token(大型語言模型處理資訊的