Meta 開源 Muse Glimmer 模型 賦予消費級硬體在地 AI 動能
Meta 公司於週三(26日)宣布推出 Muse Glimmer,這是一款擁有 300 億個參數的大型人工智慧模型。該模型是開放權重(open-weight)模型,意指其模型的關鍵參數對外公開,允許開發者下載並在本地端修改或運行,但可能不包含完整的訓練資料或原始程式碼,與完全開源略有不同。Muse Glimmer 特別設計用於在消費級硬體上本地運行,這代表 Meta 在推動開放權重 AI 策略上再次發力。
Meta 執行長祖克柏(Mark Zuckerberg)表示,除了Muse Glimmer 的權重已開放外,公司也計畫很快將發布其最新基礎模型 Muse Spark 1.2 的權重。此舉延續了 Meta 過去在 Llama 模型上的開放策略,目標是讓 AI 技術更廣泛地普及,避免其僅由少數機構掌控。祖克柏隨此發布同步發表了一篇名為《未來屬於每個人》(The Future Is for Everyone)的 6,500 字文章,闡述他對「個人超級智慧」的願景。
Muse Glimmer 主要針對本地端、持續運作的 AI 代理程式(agent)任務而設計,而非作為雲端上的尖端模型競爭。Meta 的 AI 長 Alexandr Wang 指出,Glimmer 能透過規劃、工具呼叫、自我修正及錯誤回復來執行代理任務。為使模型能在個人電腦上順暢運行,Meta 採用了量化技術,將其壓縮至不到 20 GB。輝達(Nvidia)已為 Muse Glimmer 進行最佳化,確保其能在配備單一消費級繪圖處理器(GPU)的個人電腦上運行,特別適合程式開發及其他代理式 AI 任務。這項策略有望吸引廣大開發者和組織,在自己的設備上運行 AI 系統,減少對雲端運算的依賴。