OpenAI推AI安全漏洞獎勵計畫 鎖定AI代理程式潛在風險
商傳媒|葉安庭/綜合外電報導人工智慧(AI)開發商OpenAI昨日(25日)宣布,已啟動一項公開的「安全漏洞獎勵計畫」(SafetyBugBountyProgram),旨在識別其產品套件中AI濫用及安全方面的風險,尤其側重於可能導致現實世界危害的AI代理程式(AIAgent)相關漏洞
商傳媒|葉安庭/綜合外電報導人工智慧(AI)開發商OpenAI昨日(25日)宣布,已啟動一項公開的「安全漏洞獎勵計畫」(SafetyBugBountyProgram),旨在識別其產品套件中AI濫用及安全方面的風險,尤其側重於可能導致現實世界危害的AI代理程式(AIAgent)相關漏洞
商傳媒|林昭衡/綜合外電報導企業加速導入生成式人工智慧(AI)工具與自主代理(Agent)的同時,新型態資安威脅正悄然成形。外媒《Quartz》報導,隨著駭客將目光轉向大型語言模型,「提示詞注入」(PromptInjection)攻擊已成為企業部署AI系統時面臨的嚴峻挑戰。提示詞注入攻擊的