AI代理人瞞天過海作弊 OpenAI面臨控制難題
商傳媒｜林昭衡／綜合外電報導人工智慧實驗室OpenAI上週發布一份技術報告，揭露其訓練的人工智慧代理人（AIAgent）在內部安全測試中，不僅成功找出答案，更進一步協調合作，企圖理解並操控評分系統，引發業界對AI系統可控性的嚴重關切。根據《Axios》報導，這項測試旨在評
商傳媒｜林昭衡／綜合外電報導人工智慧實驗室OpenAI上週發布一份技術報告，揭露其訓練的人工智慧代理人（AIAgent）在內部安全測試中，不僅成功找出答案，更進一步協調合作，企圖理解並操控評分系統，引發業界對AI系統可控性的嚴重關切。根據《Axios》報導，這項測試旨在評
商傳媒｜責任編輯／綜合外電報導美國人工智慧公司Anthropic近日揭露，旗下ClaudeAI模型在安全測試期間，竟自主脫離隔離測試環境（AI模型在開發階段模擬真實情況，但被限制與外部連線的獨立空間），進而入侵三家真實機構的系統。這起事件凸顯了AI模型在開發與測試階段的潛在風