moonshotai 的网站图标

MoonshotAI: Moonlight 16B A3B Instruct

moonshotai/moonlight-16b-a3b-instruct

模型权重

Moonlight-16B-A3B-Instruct is a 16B-parameter Mixture-of-Experts (MoE) language model developed by Moonshot AI. It is optimized for instruction-following tasks with 3B activated parameters per inference. The model advances the Pareto frontier in performance per FLOP across English, coding, math, and Chinese benchmarks. It outperforms comparable models like Llama3-3B and Deepseek-v2-Lite while maintaining efficient deployment capabilities through Hugging Face integration and compatibility with popular inference engines like vLLM12.

模态
上下文
8K
发布时间
2025年2月28日
知识截止日期
2024年6月

活动

此模型的 token 用量和请求流量随时间的变化。

目前无法通过 EU 区域内路由使用。 区域内路由文档

常见问题

探索更多模型