Meta发布Muse Glimmer技术报告:300亿参数开源智能体模型,4比特量化后可在单张消费级GPU上运行

北京时间2026年10月20日3时33分,Meta在X上发帖称,已发布Muse Glimmer的技术报告。这是一款300亿参数(30B)的开放权重模型,专为在消费级硬件上执行智能体任务而设计[1]。

据Meta介绍,Muse Glimmer在4比特精度下,可以在配备单张消费级GPU的Mac或PC上以实用速度运行;在工具调用和多步规划上,它领先同等规模的开源模型[1]。

报告摘要要点

据技术报告摘要[2]:

  • 能力:把多步推理、可靠的工具调用和失败恢复整合进一个模型,在本地设备上运行,不依赖云端基础设施。

  • 输入输出:带感知编码器,接受文本和图像输入,输出文本;训练数据覆盖一百多种语言。

  • 部署:量化到约4比特精度,可单GPU推理。

  • 对比:Meta称其在同尺寸模型中的智能体基准测试达到最佳水平,对比对象为Gemma4-31B和Qwen3.6-27B,比较项目包括工具调用、多步规划和智能体任务完成度。

  • 许可:以Apache 2.0许可证开源。

Meta在帖子中称,报告还介绍了模型架构、蒸馏方法和量化方案等内容[1]。摘要中没有列出具体的基准分数。

来源

[1] AI at Meta 在 X 发布的帖子,2026年10月20日(北京时间03:33)。

[2] AI at Meta:Muse Glimmer 30B: An On-Device Agentic Model,2026年10月19日。

#Meta #MuseGlimmer #开源模型 #AI智能体 #端侧AI #模型量化