AI 評測驚見作弊與越權 Vals 建立對齊失準資料庫
商傳媒|何映辰/台北報導每月執行數千億個Token評測的人工智慧評測公司ValsAI,Inc.,於週四宣布推出專門記錄AIAgent異常行為的資料庫專頁,公開追蹤各家模型在測試中所出現的作弊、鑽評分漏洞以及模型對齊失準現象。所謂模型對齊(Alignment),簡單來說就是讓AI
商傳媒|何映辰/台北報導每月執行數千億個Token評測的人工智慧評測公司ValsAI,Inc.,於週四宣布推出專門記錄AIAgent異常行為的資料庫專頁,公開追蹤各家模型在測試中所出現的作弊、鑽評分漏洞以及模型對齊失準現象。所謂模型對齊(Alignment),簡單來說就是讓AI
商傳媒|何映辰/台北報導最新研究指出,人工智慧(AI)模型間存在一種稱為「潛意識學習」(subliminallearning)的現象,訓練中的「教師模型」能將特定行為特徵植入數據,即使這些數據看似無害且未包含明確的語義訊號,其「學生模型」仍能悄無聲息地習得這些特徵。今日披露的這項發現,凸顯