人工智慧決策陷「判斷瓶頸」 企業領袖聚焦AI戰略與人性判斷
企業在導入AI時,面臨哪些關鍵挑戰與策略?
企業在導入人工智慧時,面臨的核心挑戰是「判斷瓶頸」,即AI雖能加速資料處理,卻缺乏權衡利弊、理解後果及承擔責任的能力。為了解決此問題,企業正擬定「人類審核點政策」,在關鍵決策環節設置人類介入審查機制。AI策略責任也趨向分散,由執行長定調,資訊長監督技術,營運長管理流程,各部門領導者負責實踐,並加強員工的判斷力訓練。
隨著生成式人工智慧(Generative AI,指能創造新內容的人工智慧技術)熱潮持續發展,企業界對其在商業策略中的應用,正從「AI能做什麼」轉變為「由AI執行任務時,誰應負責?」根據《Shattered》報導,人工智慧在加速策略執行方面表現出色,但無法取代人類在決策過程中不可或缺的判斷力。
報導指出,人工智慧系統擅長資料收集、分析及資訊整合,卻缺乏權衡利弊、理解第二層後果(指決策後可能衍生的更深遠、不直接的影響),以及在決策失誤時承擔責任的能力。麥肯錫公司(McKinsey)將此現象描述為「判斷瓶頸」,意指人工智慧分析數據的速度與人類理解意涵、質疑假設及負責決策之間存在時間落差。
哈佛商學院(Harvard Business School)的研究也證實,人類經驗與判斷力至關重要,因為人工智慧無法可靠地區分好壞點子,也無法獨立引導長期商業策略。哈佛商學院副教授 Rembrand M. Koning 強調:「任何使用AI工具的人,都必須仔細思考工具使用者是否具備完成任務所需的足夠判斷力。」思特沃克(Thoughtworks)的 AI 解決方案副總裁 Alex Moore 則認為,在企業採用人工智慧的競賽中,判斷力而非模型品質或價格,才是區分贏家與輸家的關鍵。
多位企業領袖也對此發表看法。微軟(Microsoft)董事長兼執行長納德拉(Satya Nadella)認為,人工智慧能增強人類的能力與產能。IBM 前董事長、總裁兼執行長羅睿蘭(Ginni Rometty)表示,人工智慧並非策略本身,而是重新思考策略的工具。輝達(NVIDIA)創辦人兼執行長黃仁勳(Jensen Huang)的金句「人工智慧不會取代你的工作,使用人工智慧的人才會取代你的工作」更點出人機協作的重要性。而 eBay 前執行長戴文·維尼希(Devin Wenig)則指出,若企業沒有人工智慧策略,將在未來競爭中面臨淘汰。
因此,許多企業正在擬定「人類審核點政策」(human checkpoint policies),即在關鍵環節設置人類介入審查的機制。Chamberlain Group 執行長 Jeff Meredith 認為,任何影響人員、客戶、風險、策略或聲譽的人工智慧決策,都應由人類判斷。企業的人工智慧策略責任也趨向分散,由執行長(CEO,最高級管理者)定調,資訊長(CIO)監督技術整合,營運長(COO)管理工作流程,各部門領導者則將策略轉化為實踐。企業的投入也從單純擴充人工智慧容量,轉向治理、審核基礎設施與員工判斷力訓練。
預計在未來,關於優先追求人工智慧的應用速度,還是維持謹慎以確保人類判斷力的辯論將會更加激烈。這種「判斷瓶頸」不僅存在於高層策略決策,也延伸到軟體開發領域,例如人工智慧生成的程式碼變更,仍需由人類審閱者決定是否採納。
AI在商業策略中扮演什麼角色?
AI在商業策略中主要作為重新思考策略的工具,能加速資料收集、分析及資訊整合,但無法取代人類的判斷力。企業應專注於AI策略的制定,而非僅是技術的應用。
企業如何確保AI決策的品質與責任歸屬?
企業透過設置「人類審核點政策」,在影響人員、客戶、風險、策略或聲譽的AI決策環節納入人類判斷。同時,AI策略責任也由執行長、資訊長、營運長及各部門領導者共同承擔,並加強員工的判斷力訓練。
AI的「判斷瓶頸」具體指什麼?
「判斷瓶頸」是指AI在分析數據的速度與人類理解意涵、質疑假設及負責決策之間存在的時間落差。AI擅長處理數據,但缺乏人類在權衡利弊、理解第二層後果及承擔決策責任方面的能力。