商傳媒｜葉安庭／綜合外電報導

隨著人工智慧（AI）技術日益普及，企業在導入 AI 語音解決方案時，面臨嚴峻的治理挑戰。一份最新報告指出，企業需在確保 AI 代理人行為受控、符合規範的同時，管理跨平台產生的海量語音資料，否則恐將面臨資安與合規性風險。

根據《Search IT Operations》昨日報導，AI 代理人（AI agents），例如客服機器人或語音助理等人工智慧系統，已廣泛應用於企業環境中，然而，確保這些 AI 代理人的行動受控，並能在超出預設參數時即時停止，已成為企業語音治理（enterprise voice governance）的首要任務。企業語音治理旨在確保企業通訊系統中語音資料的安全性、合規性與管理，防範資料外洩或不當使用。然而，Metrigy Research Group 的研究顯示，目前僅半數組織已實施結構化的 AI 安全與合規計畫。

現行企業通訊環境高度碎片化，多數企業同時使用兩到七種統一通訊（UC），即整合語音、視訊、訊息等多元溝通管道的系統，以及協作工具，但每個工具都有獨立的控制與資料保存政策，造成治理上的挑戰。Omdia 的主要分析師 Prachi Nema 指出，AI 治理的職責分散於協作、客服中心、資安、法務、合規、紀錄管理等多個團隊，權責劃分不清。InFlow Analysis 創辦人兼主要分析師 David Smith 則警告，AI 自動化雖能節省時間，卻也取代了過去仰賴人工審查的環節，導致潛在的資安責任未被計入成本。

此外，AI 生成的紀錄內容也帶來新的隱憂。David Smith 舉例，過去為語音錄音制定的保存政策，可能無法有效涵蓋 AI 產生的逐字稿與摘要。這些衍生資料可能在不同的系統中，受制於不同的政策而長期留存。這使得企業必須妥善管理 AI 生成內容、會議紀錄、代理人活動、資料儲存地點及保存期限。AudioCodes 的統一通訊技術長 Ran Inbar 亦強調，若攻擊者僅需數秒的語音樣本便能模仿個人聲音，則儲存的語音樣本將構成資安與隱私風險。事實上，近半數組織在過去一年內曾懷疑或證實 AI 代理人執行未經授權的行為，但僅有 17.5% 的受訪者表示能自動阻止這些異常行為。

為應對這些挑戰，資安長（CISO）在評估治理工具時，應著重測試其跨平台政策應用能力、與現有資安系統的整合性，以及追蹤 AI 生成紀錄和提供可稽核執行證據的能力。企業也應建立更嚴謹的來電者驗證機制，例如在客戶完成身份驗證後，透過行動應用程式啟動通話。同時，每個 AI 代理人應具備獨立身份與稽核軌跡，並設定有限權限、保存其行動紀錄，並明定人工核准機制。資安長須與通訊、IT、法務、合規及紀錄管理團隊密切合作，共同制定政策、執行規範並處理例外情況，以實現對原始通訊、衍生資料及 AI 代理人的全面治理，防範超權行為並建立有效的干預機制。