AI 評測驚見作弊與越權 Vals 建立對齊失準資料庫
商傳媒|何映辰/台北報導每月執行數千億個Token評測的人工智慧評測公司ValsAI,Inc.,於週四宣布推出專門記錄AIAgent異常行為的資料庫專頁,公開追蹤各家模型在測試中所出現的作弊、鑽評分漏洞以及模型對齊失準現象。所謂模型對齊(Alignment),簡單來說就是讓AI
商傳媒|何映辰/台北報導每月執行數千億個Token評測的人工智慧評測公司ValsAI,Inc.,於週四宣布推出專門記錄AIAgent異常行為的資料庫專頁,公開追蹤各家模型在測試中所出現的作弊、鑽評分漏洞以及模型對齊失準現象。所謂模型對齊(Alignment),簡單來說就是讓AI
(媒角抵加/林承志綜合報導)可下載的AI模型在資安測試中能走多遠?評估機構ValsAI讓AI代理在兩個模擬企業網路中自主執行任務,DeepSeek開放權重模型在其中一個環境的平均成績接近限制使用的OpenAI模型,在另一個環境則落後。這項由《WIRED》11月6日報導的測試,讓企業更需要盤點外部入