英伟达正式发布其最强开源权重AI模型Nemotron 3 Super，该模型采用MoE架构，参数规模达1200亿，推理过程中仅激活120亿参数。相比前代产品，其吞吐量提升5倍，准确率实现翻倍。模型配备100万Token的超长上下文窗口，专门针对多智能体系统设计，可有效解决’上下文爆炸’与’推理税’问题。此外，该模型采用Mamba-Transformer混合架构，并引入’潜在MoE’新技术，支持多Token预测功能。
英伟达正式发布其最强开源权重AI模型Nemotron 3 Super，该模型采用MoE架构，参数规模达1200亿，推理过程中仅激活120亿参数。相比前代产品，其吞吐量提升5倍，准确率实现翻倍。模型配备100万Token的超长上下文窗口，专门针对多智能体系统设计，可有效解决’上下文爆炸’与’推理税’问题。此外，该模型采用Mamba-Transformer混合架构，并引入’潜在MoE’新技术，支持多Token预测功能。