AI硬體漏洞恐操控聊天機器人 報告示警危險回覆影響國安
網路安全公司 Eclypsium 近日發表研究指出，人工智慧（AI）模型的底層硬體存在安全漏洞，駭客可能藉此操控聊天機器人，使其提供錯誤甚至危險的回覆。這項研究揭示了 AI 系統安全性面臨的重大挑戰。
研究人員成功展示了 AI 硬體攻擊的兩種情境。其一，透過遠端竄改 AI 模型內部影響判斷或輸出傾向的參數（權重），他們能提高 AI 模型預測「中國入侵台灣」的機率。其二，遭竄改的 AI 模型建議一名胸痛患者留在家中，而非立即就醫，此類誤導性建議可能導致嚴重後果。
Eclypsium 強調，這類攻擊可在不到一分鐘內完成，且 AI 用戶對此毫無察覺。Eclypsium 執行長 Yuriy Bulygin 指出：「如果我們無法信任運行 AI 模型的基礎設施，我們就無法信任 AI 模型本身。」該公司雖以輝達（Nvidia）平台進行示範，但研究結果顯示，此類攻擊情境並非輝達獨有，也適用於其他硬體與程式碼。
研究報告警告，包括中國、俄羅斯和美國等國家級行為者，可能利用這些方法對特定的 AI 用戶發動針對性攻擊。Eclypsium 已向美國國家安全局（National Security Agency）和網絡安全和基礎設施安全局（Cybersecurity and Infrastructure Security Agency）簡報了他們的發現，兩位獨立的硬體安全專家也對研究結果表示認可。
對此，輝達發言人回應表示，這些假設情境業界並非毫無所悉，並指出強大的記憶體存取保護措施能有效阻擋此類攻擊路徑。輝達也宣布推出新的安全平台，旨在防範硬體攻擊，確保 AI 代理程式（AI agents）不會失控。然而，Eclypsium 資深副總裁 John Loucaides 提醒，在關注 AI 模型的同時，不應忽略運行這些模型的電腦硬體安全問題。
AI硬體漏洞如何影響聊天機器人並危及國安？
網路安全公司Eclypsium的研究指出，人工智慧（AI）模型的底層硬體存在安全漏洞，駭客可藉此操控聊天機器人，使其提供錯誤或危險的回覆。研究人員展示，駭客能在不到一分鐘內遠端竄改AI模型參數，提高AI預測「中國入侵台灣」的機率，或誤導AI建議胸痛患者留在家中，可能影響國安。此類攻擊不限於特定硬體平台，可能波及多種AI系統，國家級行為者可能利用此方法發動針對性攻擊。
駭客如何利用AI硬體漏洞操控聊天機器人？
駭客可透過遠端竄改AI模型內部影響判斷或輸出傾向的參數（權重），進而操控AI的輸出結果。這類攻擊能在短時間內完成，且用戶難以察覺。
輝達對此AI硬體漏洞攻擊有何回應？
輝達表示，業界已知悉此類假設情境，並指出強大的記憶體存取保護措施可有效阻擋攻擊路徑。輝達已推出新的安全平台以防範硬體攻擊。
Eclypsium的研究結果是否已向相關單位通報？
Eclypsium已向美國國家安全局（NSA）和網絡安全和基礎設施安全局（CISA）簡報了研究發現，並獲得兩位獨立硬體安全專家的認可。
