隨著人工智慧（AI）技術快速發展，OpenAI 和 Anthropic 等領先企業正競相推出更具自主行動能力的 AI 代理程式。這些新一代模型不僅能自動處理特定任務，更具備自行決策、操作電腦系統的潛力，引發資安專家高度關注，擔憂其恐淪為駭客手中的「夢幻武器」。
Anthropic 近期更新了其 Claude Code 和 Claude Cowork 模型，新增功能允許 AI 直接在使用者電腦上執行任務，包括開啟檔案、啟動瀏覽器及使用開發工具。特別是 Claude Code 導入的「自動模式」，更賦予 AI 自主判斷權限並獨立執行指令的能力。OpenAI 執行長 Sam Altman（Sam Altman）也透露，代號為「Spud」的新一代強大模型預訓練已完成，預計未來數週內發表。此外，《Nikkei Asia》報導指出，最聰明的 AI 代理程式，也可能最容易被「欺騙」，凸顯了其內在的資安漏洞風險。
這些自主 AI 代理程式的興起，讓資安防護面臨前所未有的挑戰。資安平台 Kubescape 近期發布 4.0 版本，首次將 AI 代理程式掃描納入其 Kubernetes 資安平台功能，藉以偵測執行階段的威脅。Kubescape 的 Ben Hirschberg 強調，需要健全的資安防護措施，以阻止 AI 代理程式被利用進行未經授權的存取或刪除生產資料等高風險行為。先前市場也曾因 Anthropic 新 AI 模型 Claude Mythos 的資訊洩露，導致美國網路安全相關股票應聲下跌，反映市場對 AI 潛在風險的擔憂。
然而，AI 帶來的高效率也伴隨著人類層面的新挑戰。《富途牛牛》引述軟體工程師 Siddhant Khare 的觀點，指出「AI 疲勞」已成為結構性問題。AI 在生成內容上的效率雖提升數倍，但人類的審查與驗證效率卻未能跟上，導致工作負荷激增，且 AI 產生內容的不可預測性與潛在錯誤，需要耗費人類極大的認知精力去識別，甚至比從頭創作更為疲憊。DX 對超過 450 家企業的調查也顯示，即使 93% 的開發者使用 AI 編程工具，實際效率提升卻僅約 10%，顯示 AI 輔助工具的實際效益被高估，人類仍是整個工作流程中的關鍵瓶頸。
為應對此一趨勢，企業與使用者需採行更嚴謹的防範措施。例如，字節跳動（ByteDance）計畫在其視訊生成模型 Dreamina Seedance 2.0 全球發布前，強化浮水印及智慧財產權保護措施。而 Khare 也建議企業應建立「反壓機制」，在 AI 內容送達人工審查前，透過自動化系統攔截明顯錯誤，以減輕人類審查負擔。使用者則應改變 AI 使用習慣，先獨立思考、釐清目標，再決定是否以及如何運用 AI，以重新掌握控制權，降低焦慮和疲勞感。
