防範AI代理誤刪敏感資料 語義快取成企業治理新利器
隨著企業陸續放行 AI 代理(Agent)讀取、修改甚至刪除內部敏感資料,傳統資安架構正面臨失效危機。為了在不拖慢系統效能的前提下控管風險,業界開始轉向「語義快取(Semantic Caching)」技術,直接在資料傳輸路徑中實施即時治理。
根據外媒《SiliconANGLE》報導,企業內部如智慧財產權、客戶資料庫及專利演算法等核心資產,已逐漸開放給自主運作的 AI 代理存取。然而,防火牆與資料外洩防護(DLP)等傳統資安工具,過去都是針對人類使用者與一般應用程式設計,難以防範新型態風險。
新創業者 Daxa Inc. 共同創辦人暨執行長 Huseni Saboowala 指出,AI 代理運作在所謂的「認知層」(Cognitive Layer,或稱第 8 層)。該層級是 Prompt、模型回應、資料檢索與工具呼叫(Tool Calls)實際發生的場域,傳統工具根本無法在此運作。
為解決這項痛點,業界提出運用語義快取作為即時控管機制。這項技術——簡單來說就是在快取中辨識指令語義而非僅比對字面文字——能讓系統在資料串流中即時攔截並採行控制措施,同時避免拖慢 AI 代理的反應速度。此外,搭配具備推理能力的存取控制,由特定代理負責標記異常行為,可進一步降低認知層的資安威脅。
伺服器大廠慧與科技(Hewlett Packard Enterprise Co.)也採取相應防範措施。該公司將治理機制直接內建於旗下產品 HPE Private Cloud AI 架構中,避免在工作流程成形後才以拼裝方式補強。
報導指出,目前已有區域銀行採用 Daxa Inc. 與慧與科技的解決方案,將內部 AI 代理安全連接至原始程式碼與受高度監管的客戶資料庫中。
企業如何防範 AI 代理誤刪敏感資料?
為防範 AI 代理誤刪企業敏感資料,業界正轉向採用「語義快取」技術。此技術能在資料傳輸路徑中實施即時治理,透過辨識指令語義而非僅比對字面文字,來攔截並採取控制措施,同時避免拖慢 AI 代理的反應速度。此外,搭配具備推理能力的存取控制,可進一步降低認知層的資安威脅。目前已有區域銀行採用 Daxa Inc. 與慧與科技的解決方案,將內部 AI 代理安全連接至原始程式碼與受高度監管的客戶資料庫。
語義快取技術是如何運作的?
語義快取技術透過辨識指令的語義來識別資料,而非僅僅比對字面文字。這使得系統能在資料串流中即時攔截潛在的風險,並執行相應的控制措施,同時維持 AI 代理的運作效能。
傳統資安工具為何無法防範 AI 代理的風險?
傳統資安工具如防火牆與資料外洩防護(DLP)是為人類使用者與一般應用程式設計,難以應對 AI 代理在「認知層」的運作模式。AI 代理在此層級進行 Prompt、模型回應、資料檢索與工具呼叫,是傳統工具無法觸及的領域。