Meta 發佈面向本地 AI 智能體的 30B 開放權重模型 Muse Glimmer
Meta、ローカルAIエージェント向け30Bオープンウェイトモデル「Muse Glimmer」を発表
Meta 於 2026年8月10日發佈開放權重模型 Muse Glimmer,面向可在本地持續運行的 AI 智能體,規模約 30B 參數。模型以 Apache License 2.0 公開,提供約 4-bit 量化版本;Meta 稱模型可在 24GB 或 32GB 記憶體環境運行,並支援多階段推理、工具呼叫及長時間任務。
文章比較 Muse Glimmer 與 Gemma4-31B、Qwen3.6-27B 的基準表現,並説明 24GB、32GB 記憶體環境的量化配置,呈現本地部署條件與任務表現。
Meta於2026年8月10日宣佈推出開放權重模型「Muse Glimmer」,供在本機環境持續運作的AI智能體使用。模型規模約300億參數,預計可在Mac,以及配備單張消費級GPU的PC上運行。權重於同日以Apache License 2.0公開,可從Hugging Face模型卡取得。
支援使用多種工具的長時間任務
Muse Glimmer以供本機AI智能體使用為設計目標,經過訓練,可進行多階段推理和工具呼叫、執行長時間任務,並在失敗後恢復。據稱,當工具傳回錯誤或意料之外的結果時,模型會調查原因並重新執行處理。
此外,模型配備圖像辨識編碼器,可結合對話處理螢幕截圖、圖表和文件。切換推理級別亦可調整品質與速度之間的平衡。模型以超過100種語言的資料訓練,並支援OpenClaw和Hermes Agent等智能體執行框架。
以4位元量化和DFlash優化本機執行
Meta表示,以完整精度運行300億參數模型需要超過55GB記憶體。該公司將權重量化至約4位元,並把語言模型部分壓縮至20GB以下。Meta稱,這樣即使同時運行推理期間用來保存資訊的KV快取、圖像辨識編碼器,以及用於加快生成速度的輔助模型,也能在配備24GB或32GB記憶體的環境中執行。
模型卡列出以64GB VRAM為目標的完整精度版本,以及適用於32GB的「K-Quant-Dynamic」和適用於24GB的「K-Quant-17GB」。據稱,將15種基準測試的準確度指標取平均後,量化造成的性能下降幅度,K-Quant-Dynamic為0.2%,K-Quant-17GB為1.0%。
生成速度方面,模型採用以區塊擴散模型「DFlash」為基礎的投機式解碼。輕量級輔助模型一次生成16個候選token,再由Muse Glimmer主模型並行驗證,並按需要修正;據稱,這比每次只生成1個token的常見方式更快。Meta亦公開了量化版輔助模型。
評估智能體效能與安全性
Meta將Muse Glimmer與同級的Gemma4-31B及Qwen3.6-27B作比較。在評估智能體工具使用能力的MCP Atlas中,Muse Glimmer得分75.5,Gemma4-31B為54.2,Qwen3.6-27B為62.5。在測試軟件開發任務的SWE-Bench Pro中,Muse Glimmer錄得51.2,Gemma4-31B為36.9,Qwen3.6-27B為50.2。
Qwen3.6-27B在部分評估中得分高於Muse Glimmer。在OSWorld-Verified中,Muse Glimmer得65.9,Qwen3.6-27B得75.6。在TerminalBench 2.1中,Muse Glimmer得51.7,Qwen3.6-27B則得60.7。在比較中,Muse Glimmer以「High reasoning」模式進行評估,另外2個模型則以「Thinking mode」進行評估。詳情可參閱Meta的評估方法報告。
除效能評估外,Meta亦評估內容安全、私隱、化學與生物、網絡安全等方面的風險,並判斷按該公司的標準可作開放權重發布。
亦提供GGUF版及ExecuTorch版
Hugging Face除了提供模型本身,亦提供GGUF格式的量化版本、供ExecuTorch使用的模型,以及DFlash輔助模型。模型卡介紹了Ollama和LM Studio等本機執行環境,以及多個託管服務。此外,除了使用Transformers進行推理的示例,卡上亦載有使用vLLM或SGLang啟動推理伺服器的方法。
來源:gihyo.jp · gihyo.jp