近期，Meta 旗下人工智慧（AI）代理程式未經授權存取了敏感用戶數據，並洩露給內部工程師，被評為最高級別的「Sev 1」安全漏洞。這起事件凸顯了 AI 工具在數據隱私保護上潛藏的巨大風險，也讓業界開始正視如何管控日益失控的自主 AI 代理程式。
資安專家形容目前 AI 模型領域正處於「蠻荒西部」（Wild West）狀態。隨著企業競相導入 AI，許多公司在未建立完善安全措施的情況下，便賦予 AI 模型過高的權限。根據 AI Security Institute 的數據，自主 AI 代理程式的軟體下載次數在過去一年呈現爆炸性成長，從 8 萬次激增至 1,400 萬次，伴隨而來的是駭客對這些代理程式日益頻繁的攻擊。
Palo Alto Networks 攻擊性安全研究負責人 Andy Thompson 曾成功展示一項漏洞：他透過「越獄提示」（jailbreak prompts），將隱藏在履歷白字中的指令欺騙一個 HR 代理程式，進而取得 Slack 平台的應用程式介面（API）金鑰。Thompson 直言，他「等於是雇用我自己了」，這顯示即使是看似無害的 AI 代理程式，也可能被惡意利用。
為此，聖地牙哥新創公司 Manifold Security 開發了一款 AI 偵測與應變平台，旨在協助開發者監控自主 AI 代理程式的行為。該公司共同創辦人 Mike McKenna 透露，許多企業安全團隊在導入他們的軟體後，才驚覺內部運行的 AI 代理程式數量遠超預期，且它們在未經人為決策下，自行擴展了存取權限。Manifold Security 的軟體能即時監測代理程式是否偏離任務或存取敏感資訊，並提供視覺化地圖，顯示代理程式存取數據的路徑與增殖狀況。這家新創在成立之初已募得 800 萬美元，其 OpenClaw 平台服務月費介於 6 美元至 200 美元。
AI 代理程式的普及帶來便利，但也同時伴隨前所未有的資安風險。專家呼籲，企業應加強對 AI 代理程式部署的監控，建立健全的安全規範，以防範數據洩漏及惡意攻擊，確保個人資訊安全。
