企業導入AI面臨雙重挑戰:治理複雜、成本攀升
隨著人工智慧(AI)技術的快速發展,企業在導入 AI 應用時,面臨的挑戰不僅止於技術層面,更涵蓋了複雜的治理議題與不斷上升的成本壓力。專家指出,企業需要明確的目標、健全的治理框架以及更具成本效益的模型選擇,才能成功駕馭這波 AI 浪潮。
Crusoe 雲端工程資深副總裁 Kyle Sosnowski 指出,目前大多數企業尚未將 AI 有意義地整合至營運中,僅有少數雲原生新創公司深入應用。根據麥肯錫公司(McKinsey)的調查,僅有 40% 的大型企業和 22% 的小型企業將 AI 應用擴展至實驗階段之外。其中,聊天機器人是採用率最高的 AI 工具,達到 47%,而程式開發與其他 AI 代理工具的採用率約為 20%。
Sosnowski 認為,許多企業常將 AI 使用量與 AI 產能混淆,導致成本問題。他強調,企業在進入 AI 領域時應「懷抱明確目標」,避免無目的性地部署 AI。過度鼓勵 AI 輸出量不僅耗費組織資源,也造成讀者負擔。Sosnowski 以收到一份七頁 AI 生成文件為例,表示他更想聽到作者本人的觀點,而非 AI 的冗長報告。
除了目標不明確,AI 治理也變得前所未有的複雜。隨著歐盟人工智能法案(EU AI Act)中針對高風險 AI 系統的義務於 2026 年 8 月 2 日生效,數位主權的概念已從單純追蹤資料儲存位置,擴展至 AI 層面。Red Hat 英國公共部門技術策略師 Erica Langhi 強調,真正的數位主權不僅限於擁有本地資料中心,還包括「絕對有權修改、重新訓練和移植模型,無需依賴第三方看門人」。
諮詢公司 Slalom 的資深首席 John Michaelides 提醒,以往判斷資料主權僅需確認資料駐留地點,但 AI 的出現已將控制權與地理位置脫鉤。現在,企業需考慮至少五個獨立的控制點:資料駐留位置、推論(Inference)執行地點、模型權重儲存位置、加密金鑰持有者,以及協調與身份層的營運者。這些控制點可能由不同司法管轄區的不同實體管理,使得監管變得更加複雜。真正的 AI 主權意味著必須在地域、技術和營運三個層面控制整個執行鏈,以確保當局能夠證明其治理、問責制和控制能力。
為有效控制成本,Sosnowski 建議企業應將 AI 模型與任務匹配。他觀察到許多公司在導入 AI 時,直接購買 OpenAI 或 Anthropic 等供應商的頂級企業訂閱服務,卻未考慮到並非所有應用情境都需要前沿模型。對於如試算表摘要、文件整理或內部工作流程自動化等較簡單的任務,開放模型(Open models)或較便宜的模型通常已足夠。他指出,前沿模型則適用於複雜推理、多步驟工作流程和技術性任務。
專家們普遍認為,企業必須建立標準化的內部功能,確保所有 AI 部署都具備相同的驗證方式與嚴謹性,並配合良好的資料衛生習慣,包括使用不同的加密金鑰分別加密模型與資料,並限制各方對架構不同部分的存取權限。這不僅能防範資料破碎化與安全風險,也有助於在面對監管單位時,展現對 AI 系統的完整掌控與問責能力。
Crusoe 正在建構一個專為高強度運算 AI 和 HPC 工作負載而設計的雲端平台,旨在協助企業有效管理 AI 基礎設施,應對這些新興挑戰。