商傳媒|責任編輯/綜合外電報導

隨著人工智慧(AI)技術應用日益普及,相關營運成本正快速攀升,使企業重新審視AI導入策略。業界專家指出,早期由投資人補貼的「補貼智慧」(subsidized intelligence)時代已步入尾聲,AI公司開始尋求獲利,導致使用者面臨日益增加的費用帳單,特別是大型語言模型(LLM)的Token使用費用。與此同時,谷歌Chrome瀏覽器悄然在用戶電腦部署AI模型,也引發了對資源佔用和模型管理模式的討論。

AI成本飆漲企業效益受考驗

根據《Cebu Daily News》及《Kuwait Times》報導,AI公司在 ChatGPT 橫空出世後,曾以極低價格吸引客戶。然而,隨著 OpenAI 和 Anthropic 等領先企業計畫於今年稍晚公開上市,它們必須開始創造實際收入,導致AI服務的成本急劇上升。市場分析師 Jack Gold of J.Gold Associates 指出,AI成本主要以 Token(AI公司用於計費的基本單位)計算,許多企業過度使用AI,甚至出現「Tokenmaxxing」現象,導致部分員工的Token費用在短短一兩個月內就超越了其薪資成本。科技顧問 Omniux 的 Mark Barton 表示,特別是在開發者社群中,用於程式編寫等任務的AI成本已呈指數級增長。此外,驅動AI所需的晶片及數據中心出現短缺,也進一步推高了成本,為這個新興產業增添不確定性。

面對高昂的AI帳單,企業內部開始出現反思。Meta 技術長 安德魯·博斯沃思(Andrew Bosworth)先前曾鼓勵員工盡可能使用 Token 以提高生產力,但近期已改口表示:「任何人都不應為了使用AI而使用AI。」 Uber 營運長本週也公開質疑,目前的AI支出並未帶來明顯的生產力提升。

企業尋求多元策略降低AI成本

為控制成本,許多企業正採取更具成本效益的策略。Enverso 諮詢公司的 Adrian Balfour 指出,雖然通用型大型模型每百萬 Token 可能要價 15 美元,但透過使用較小的迷你模型,成本可大幅降至 5 美分。因此,部分企業轉而採用以下方式:

  • 開源模型: 轉向免費的開源 AI 模型。這些模型雖不如 ChatGPT 或 Claude 強大,但足以應付許多日常任務。
  • 小型專業模型: 選擇針對特定產業(如房地產或金融)量身打造的小型專業化模型,而非功能龐雜的通用型模型。
  • 任務拆解: 將大型AI任務拆解為多個小步驟,並將每個步驟分配給成本最低、最適合處理該任務的模型。

Gabelli Funds 的投資組合經理 John Belton 認為,AI正朝向商品化發展,選擇模型時,其特定功能已不如「合適的價格」重要。然而,最頂尖的用戶仍會願意為最佳效能付出高昂代價,整體AI市場仍在持續擴大。

谷歌Chrome悄然部署AI模型引發討論

《Aol.com》報導,科技巨頭谷歌的 Chrome 瀏覽器近期在部分用戶的電腦上悄然安裝了一個名為「weights.bin」的 4GB 檔案,即使這些用戶未曾主動安裝或下載該檔案。根據谷歌向 Android Authority 發表的官方聲明,該檔案負責在裝置端運行 Gemini Nano 模型,支援瀏覽器內部的安全處理流程,且無需依賴雲端運算。

對於擔心資源佔用或隱私的用戶,谷歌表示可在 Chrome 設定中找到「On Device AI」選項並手動關閉,隨後該模型檔案便會自動卸載。若裝置資源不足,該檔案也應自動移除。用戶若想徹底避免,也可選擇卸載 Chrome 瀏覽器。

這項部署舉動反映了 AI 模型日漸嵌入各種軟體應用中的趨勢,同時也突顯企業在導入新技術時,需更透明地向用戶溝通,並提供彈性的管理選項。對於台灣企業管理者而言,這不僅提醒了AI導入的營運成本挑戰,也應關注如何在技術整合與用戶體驗、資源管理之間取得平衡。