資安業者Sophos推新工具 應對企業影子AI資安威脅
資安業者Sophos於週一宣布,正式推出其全新安全解決方案 Sophos AI Defense,旨在協助企業防禦日益嚴峻的「影子AI」資安挑戰。隨著人工智慧工具在企業內部日益普及,許多員工在未經IT部門核准或監管下,私自使用AI工具,恐為企業帶來潛在的資安風險。
Sophos 指出,AI 技術的加速採用已對企業資訊安全構成重大挑戰。根據其引述的研究顯示,高達 69% 的組織懷疑或已有證據證明內部存在未經授權的 AI 工具使用情形。此外,高德納諮詢公司(Gartner)與雲端安全聯盟(Cloud Security Alliance)的獨立研究也發現,有 82% 的組織在去年曾於其環境中偵測到「影子AI」(Shadow AI,意指未經核准或監管的AI工具與服務)的存在。這些未經批准的 AI 工具與應用程式,使企業難以掌握員工究竟使用了哪些 AI 工具、存取了哪些資料,以及其使用方式是否符合企業的安全政策。
Sophos 產品管理資深副總裁 Kyle Falkenhagen 表示:「企業採用 AI 的速度遠快於他們確保其安全的速度。大多數資安團隊甚至無法回答三個基本問題:有哪些 AI 工具正在運行?什麼數據正在進入這些工具?以及這些活動是否符合政策?」他強調了企業在管理 AI 使用上面臨的盲點。
駭客也已將影子AI視為攻擊目標。Sophos 的研究人員曾觀察到,攻擊者利用客戶網路內的 AI 工具,建立並測試了近 80 個惡意軟體模組,顯示出影子AI被濫用的潛在風險。IDC 預計,到 2028 年,AI 工具的數量可能達到 13 億個,進一步凸顯了企業資安防護的急迫性。
為此,Sophos 正式推出了 Sophos AI Defense,這項安全產品可透過 Sophos Fusion 平台運作,整合來自裝置、網路、身份識別系統及瀏覽器的資訊。Sophos AI Defense 能夠檢測AI工具、監控其活動,並執行組織的安全政策,甚至可檢查使用者輸入的提示詞(prompts)、上傳內容以及其他 AI 互動行為,以識別潛在的風險活動,有效防範敏感資料外洩。
資安業者Sophos推出什麼新工具來應對企業的影子AI威脅?
資安業者Sophos於週一宣布推出全新安全解決方案Sophos AI Defense,旨在協助企業防禦日益嚴峻的「影子AI」資安挑戰。該解決方案可透過Sophos Fusion平台運作,整合裝置、網路、身份識別系統及瀏覽器資訊,以檢測AI工具、監控其活動並執行組織安全政策。Sophos AI Defense能檢查使用者輸入的提示詞、上傳內容及其他AI互動行為,以識別潛在風險活動並防範敏感資料外洩。
為何影子AI會對企業構成資安風險?
影子AI是指員工未經IT部門核准或監管私自使用的AI工具。這些未經批准的工具使企業難以掌握員工使用的AI工具、存取的資料以及使用方式是否符合安全政策,進而帶來潛在的資安風險。
影子AI的使用在企業中有多普遍?
根據Sophos引述的研究顯示,高達69%的組織懷疑或已有證據證明內部存在未經授權的AI工具使用情形。獨立研究也發現,有82%的組織在去年曾於其環境中偵測到影子AI的存在。
駭客如何利用影子AI進行攻擊?
駭客已將影子AI視為攻擊目標。Sophos的研究人員曾觀察到攻擊者利用客戶網路內的AI工具,建立並測試了近80個惡意軟體模組,顯示出影子AI被濫用的潛在風險。