千问又发模型 Qwen3-Next-80B-A3B #ai创造营#

总参数高激活参数低,训练成本低,推理速度快

80B 总参数激活参数 3B,混合架构 Gated DeltaNet + Gated Attention,

稀疏MoE:512 个专家,10 个路由专家 + 1 个共享专家

详情:qwen.ai/blog?id=4074cca80393150c248e508aa62983f9cb7d27cd&from=research.latest-advancements-list
 
 
Back to Top