解析提示詞注入攻擊 資安專家揭AI三大致命特徵
商傳媒|林昭衡/綜合外電報導企業加速導入生成式人工智慧(AI)工具與自主代理(Agent)的同時,新型態資安威脅正悄然成形。外媒《Quartz》報導,隨著駭客將目光轉向大型語言模型,「提示詞注入」(PromptInjection)攻擊已成為企業部署AI系統時面臨的嚴峻挑戰。提示詞注入攻擊的
商傳媒|林昭衡/綜合外電報導企業加速導入生成式人工智慧(AI)工具與自主代理(Agent)的同時,新型態資安威脅正悄然成形。外媒《Quartz》報導,隨著駭客將目光轉向大型語言模型,「提示詞注入」(PromptInjection)攻擊已成為企業部署AI系統時面臨的嚴峻挑戰。提示詞注入攻擊的
商傳媒|責任編輯/綜合外電報導隨著人工智慧技術發展,多款個人AI助手問世,承諾能協助用戶處理日常行政事務、減輕工作負擔。然而,這些能主動執行任務的AI工具,卻也伴隨著嚴重的隱私外洩與潛在金錢風險,引發各界專家對其安全性的擔憂。近期一起事件凸顯了個人AI助手的風險。內容創作者Matt
商傳媒|何映辰/台北報導人工智慧公司Anthropic的ClaudeCode部門主管BorisCherny,近日深入探討了旗下最新AI模型Opus5的開發過程,以及其人工智慧工具ClaudeCode的演進。他不僅揭露了Anthropic獨特的開發哲學,更強調
商傳媒|記者顏康寧/台北報導10毫秒,這是一個關於企業安全存亡的數字博弈。隨著企業大規模部署基於模型上下文協定ModelContextProtocol,MCP的AI代理程式,原本負責提升效率的工具註冊與工具描述機制,正成為網路犯罪的新型攻擊面。當AI代理程式根據自然語言描述
商傳媒|責任編輯/綜合外電報導隨著人工智慧(AI)與大型語言模型(LLM)的迅速發展,儘管為各行業帶來可觀的生產力提升潛力,卻也同時衍生出傳統防火牆無法有效應對的新型資安威脅。專家指出,AI系統固有的弱點,正促使企業必須重新檢視其安全策略。AI時代下的新型資安風險AI模型