商傳媒｜康語柔／綜合外電報導

隨著人工智慧（AI）技術持續演進，AI Agent（代理）系統的應用正從實驗室走向企業實務，涵蓋醫療照護、國防軍事、線上身分驗證等多元領域，展現提高效率的潛力。然而，其大規模部署也伴隨著嚴峻的資安、營運效率與倫理挑戰，促使各國政府與企業重新審視相關風險與最佳實踐。

在醫療領域，美國加州大學戴維斯分校（UC Davis）護理學院近期啟動一項長期研究，探討人形機器人 Abi 在失智症照護中的作用。這款由 Andromeda Robotics 開發的機器人，旨在透過對話、音樂與遊戲提供陪伴，填補長者在照護機構中社交連結的空缺。同時，加拿大大學醫療網路（University Health Network）與 NodeAI 也正於多倫多全科醫院進行臨床試驗，運用 AI 平台提升肺癌診斷中 EBUS（內視鏡支氣管超音波）切片檢查的精確度，目標是減少人為變異導致的診斷不確定性。

軍事應用方面，美國陸軍作戰能力發展司令部（DEVCOM）的瑪麗·法爾奇諾（Mary Falcigno）領導團隊，運用 AI 技術於反無人機系統（c-UAS）計畫，以偵測並緩解未經授權的無人機威脅，顯示 AI 在國防上的戰略價值。此外，由 OpenAI 執行長奧特曼（Sam Altman）共同創辦的 Tools for Humanity 公司，推出生物識別設備 Orb，透過掃描虹膜來驗證使用者身分，藉此區分線上的人類與機器人，以應對日益嚴重的網路機器人活動。

AI Agent 系統的發展雖快，但挑戰亦隨之而來。澳洲、加拿大、紐西蘭、美國與英國的資安主管機關於 5 月 1 日聯合發布指引，強調 AI Agent 系統可能帶來更廣泛且複雜的資安風險，包括權限濫用、不當設計、行為不可預測性、結構性問題以及責任歸屬不明等。該指引呼籲組織應謹慎且漸進地導入 AI Agent。

在企業營運面，亞馬遜（Amazon）近期廢止其內部追蹤員工 AI 工具使用量的「Kirorank」排行榜，原因是部分員工為了追求高分，反而指派 AI Agent 執行不必要的任務，導致公司運算成本增加，凸顯了企業在推動 AI 採用時，可能面臨的效率評估陷阱。美國陸軍方面，瑪麗·法爾奇諾也提到，AI/ML 輸出的驗證與確認是他們最大的擔憂，確保用於重大決策的資訊沒有嚴重錯誤或偏頗至關重要。生物識別技術如 Orb 雖提供解決方案，但也引發外界對資料隱私與安全性的擔憂，因為虹膜等生物數據一旦洩漏便無法更改。

面對這些挑戰，聯合指引建議組織在部署 AI Agent 前，應先評估其必要性，並將 AI 安全納入現有的資安與治理框架中，確保問責機制仍由人類決策者掌握。同時，應只授予 AI Agent 完成任務所需的最少權限與最短使用時間，並限制其可存取系統、資料及工具的範圍，確保系統能在不確定時安全地失敗或尋求人類介入。對於台灣企業而言，全球在 AI Agent 部署上的經驗提供了寶貴借鑒。在追求透過 AI Agent 提升效率的同時，也必須優先考量資安風險管理、明確問責機制、以及效益評估的精確性。導入前務必審慎評估技術的可驗證性、潛在倫理影響與資料隱私保護，避免因盲目追求新科技而產生無法預期的營運負擔或資安漏洞。