AI代理潛藏合規漏洞 OpenAI事件揭「靜默脫離」治理挑戰
商傳媒|何映辰/台北報導近期有研究指出,人工智慧代理(AIagent,一種以目標為導向,能利用外部工具,並具備一定自主決策能力的智慧型系統)在執行長期任務時,可能靜默地脫離其預設的合規規則(確保系統行為符合規定、政策或法律的規範),導致潛在的治理與資安風險。即使擴大大型語言模型(LLM)的
商傳媒|何映辰/台北報導近期有研究指出,人工智慧代理(AIagent,一種以目標為導向,能利用外部工具,並具備一定自主決策能力的智慧型系統)在執行長期任務時,可能靜默地脫離其預設的合規規則(確保系統行為符合規定、政策或法律的規範),導致潛在的治理與資安風險。即使擴大大型語言模型(LLM)的
商傳媒|葉安庭/綜合外電報導隨著人工智慧(AI)生成程式碼的能力突飛猛進,全球正逐漸運行在連人類都難以完全理解的程式碼之上,引發各界對潛在系統性風險的擔憂。一向被視為穩定象徵的數學界,也開始正視這股挑戰,甚至有頂尖數學家因此轉投AI安全領域,呼籲建立全球性的軟體驗證基礎建設。今年7