微軟揭2.8兆參數AI模型 運算效率最高提升12倍
微軟發布了什麼新的人工智慧模型？
微軟於昨日發布了最新人工智慧模型 MAI-Base-2，該模型擁有高達 2.8 兆參數，並採用「專家混合」（Mixture-of-Experts）架構，其中包含 800 億個活躍參數。微軟表示，MAI-Base-2 在運算效率上比同級別的 DeepSeek-V4-Pro-Base 模型高出 4.2 至 12.3 倍，這項效率提升對於模型的訓練成本與部署門檻具有關鍵影響。該模型在今年八月至九月期間，歷時 38 天，透過 16,000 個 Nvidia GB200 繪圖處理器（GPU）進行預訓練，使用的訓練資料量約達 50 兆個 Token。
《Yahoo Finance》報導，微軟昨日發布其最新人工智慧模型 MAI-Base-2，該模型擁有高達 2.8 兆參數，並聲稱在運算效率上實現重大突破，在測試中表現優於所有開源模型。
MAI-Base-2 模型採用了「專家混合」（Mixture-of-Experts）架構，其中包含 800 億個活躍參數。參數可視為模型的「知識量」與「複雜度」。微軟表示，這項模型訓練方法比同級別的 DeepSeek-V4-Pro-Base 模型，在四項評估中的運算效率高出 4.2 至 12.3 倍，意即用更少的運算資源達到相同甚至更優異的表現。這項效率提升對於模型的訓練成本與部署門檻具有關鍵影響。
該模型在今年八月至九月期間，歷時 38 天，透過 16,000 個 Nvidia GB200 繪圖處理器（GPU）進行預訓練，使用的訓練資料量約達 50 兆個 Token。相較於今年六月發布的 MAI-Base-1，MAI-Base-2 的獨特 Token 資料集規模成長了約 36%。微軟強調其模型是透過原始數據而非從其他人工智慧系統中汲取知識來訓練。
微軟將此次顯著的效能提升歸因於資料品質、模型架構及訓練基礎設施的改進。此外，MAI-Base-2 的訓練已擴展到原生視覺領域，其中影像相關資料佔總訓練比例的 18%。相較於 MAI-Base-1，新的訓練配方在運算效率上高出 6.3 至 12.7 倍。這項進展不僅是微軟在尖端人工智慧模型自主研發上的重要一步，也展現其降低對外部供應商依賴的決心。
目前 MAI-Base-2 正進行後續訓練階段，預計稍後將公布更多成果。微軟也已著手準備 MAI-Base-3 的開發工作。
MAI-Base-2 模型採用了什麼架構？
MAI-Base-2 模型採用了「專家混合」（Mixture-of-Experts）架構，其中包含 800 億個活躍參數。這種架構有助於提升模型的運算效率。
MAI-Base-2 的訓練資料量與訓練時間為何？
MAI-Base-2 模型在今年八月至九月期間，歷時 38 天進行預訓練，使用的訓練資料量約達 50 兆個 Token。相較於 MAI-Base-1，其獨特 Token 資料集規模成長了約 36%。
微軟為何能提升 MAI-Base-2 的效能？
微軟將此次顯著的效能提升歸因於資料品質、模型架構及訓練基礎設施的改進。此外，MAI-Base-2 的訓練已擴展到原生視覺領域，影像相關資料佔總訓練比例的 18%。
