商傳媒｜葉安庭／綜合外電報導

隨著生成式人工智慧（Generative AI）工具的普及，企業面臨一項日益嚴峻的資安挑戰：「暗影 AI」（Shadow AI）。根據一份《Security Boulevard》的報導指出，約八成的上班族在工作中使用未經 IT 部門知曉或批准的公共人工智慧工具，這種未經監管的人工智慧使用行為，正成為資料外洩的新途徑。

「暗影 AI」指的是在缺乏 IT 監管下，員工私自使用未經授權的人工智慧工具、模型或自主代理。這與過去常見的「暗影 IT」（Shadow IT）有所不同，後者多指使用未經核准的硬體或軟體，例如個人 Dropbox 帳戶。報導引用 IBM 於 2025 年發布的《資料外洩成本報告》顯示，每五個組織中就有一個曾發生與暗影 AI 相關的資料外洩，其中 63% 的受害組織要麼缺乏人工智慧治理政策，要麼仍在制定中。

這些資料外洩風險主要來自員工將公司的專有原始碼、內部策略文件或客戶紀錄，貼入公共人工智慧模型。由於免費的消費者版本人工智慧模型通常會利用輸入資料進行訓練，這些敏感資訊一旦被吸收，洩漏便難以逆轉。傳統的資料外洩防護（DLP）系統及防火牆，難以偵測透過語義（例如提示和對話）發生的資料外洩。與暗影 AI 相關的資料外洩，其平均成本比沒有此現象的組織高出約 67 萬美元，且有 65% 的資料外洩涉及客戶個人可識別資訊（PII），高於所有類型資料外洩的全球平均 53%。

攻擊者也針對暗影 AI 發展出多種手法，包括「提示注入」（Prompt Injection），誘騙人工智慧模型繞過安全防護以竊取敏感資料；「系統提示洩漏」（System Prompt Leakage），迫使模型揭露其系統級指令，可能包含後端憑證或 API 金鑰；以及「模型中毒」（Model Poisoning），透過使用未經監控、被損壞或帶有偏見資料訓練的模型，導致模型輸出不可靠。

為應對此一挑戰，專家建議企業應避免一概禁用人工智慧工具，因為這只會讓使用行為更加隱蔽。有效策略應著重於「可見性」，透過查詢 DNS 和網頁代理日誌、審查 OAuth 同意授權以及稽核瀏覽器擴充功能清單，了解組織內實際使用的人工智慧工具。同時，企業應制定「角色導向」的政策，為員工提供經核准的替代方案，並設立跨部門的「人工智慧卓越中心」（AI Center of Excellence, CoE），以整合 IT、資安、法務、合規與業務營運等資源。

國際間已有相關框架可供企業參考，例如美國國家標準技術研究所（NIST）的「人工智慧風險管理框架」（AI RMF），其中的「映射」功能特別強調辨識與分類環境中的人工智慧系統及其資料風險等級。Gartner 也提出了「AI 信任、風險和安全管理框架」（AI TRiSM），提供實施人工智慧治理的技術控制模型。歐盟的《一般資料保護規範》（GDPR）第 17 條所保障的「被遺忘權」，在資料被人工智慧模型訓練權重吸收後，也幾乎無法實踐。

報導總結，員工使用人工智慧工具是因為其能帶來實質價值，企業領導者必須在風險管理與利用人工智慧的生產力之間取得平衡，而非採取簡單的禁用措施。