美团发布LongCat-2.0：首个五万卡国产算力集群训练的1.6T万亿参数模型

核心要点

• 国产算力里程碑：业界首个在五万卡规模的国产算力集群上，实现从零开始的全流程训练与推理。
• 万亿级参数架构：模型总参数量高达1.6T，采用动态激活机制，平均激活参数约48B，动态范围在33B至56B之间。
• 百万级长文本支持：原生支持1M（一百万Token）超长上下文，能够处理极大规模的代码库与复杂任务流。
• 专注智能编程领域：架构设计核心围绕Agentic Coding，优化模型在真实编程场景中的理解、生成与执行能力。

详细分析

国产算力集群的大规模工程实践

LongCat-2.0的发布标志着国产算力基础设施在支撑超大规模AI模型训练方面取得了关键突破。该模型在五万卡国产算力集群上完成了从零开始的预训练、微调及推理全流程。这一成果不仅验证了国产硬件在万亿级参数模型训练中的稳定性，也展示了美团技术团队在超大规模分布式计算、算力调度以及软硬件协同优化方面的深厚积累。在当前全球算力环境变化的背景下，这种基于国产算力集群的成功实践，为行业提供了极具价值的参考范式。

万亿参数与动态激活的平衡艺术

在架构设计上，LongCat-2.0展现了极高的复杂性与灵活性。其总参数量达到了1.6T，属于典型的万亿级大模型。为了在保证模型容量的同时兼顾推理效率，LongCat-2.0引入了动态激活机制，使得平均激活参数保持在48B左右，并根据任务需求在33B至56B之间动态调整。这种设计使得模型既能拥有万亿参数带来的深层表征能力，又能通过精细化的激活控制，在实际推理中保持高效的响应速度，实现了性能与成本的平衡。

原生1M上下文与Agentic Coding的深度融合

LongCat-2.0原生支持1M超长上下文，这对于现代软件工程中的Agentic Coding任务至关重要。在真实的编程场景中，开发者往往需要模型理解跨文件、跨模块的复杂逻辑。1M的上下文容量允许模型一次性摄入庞大的代码库信息，从而在代码理解、生成与执行过程中减少信息丢失。美团技术团队强调，该模型的设计初衷即是让模型在复杂的Agent任务中表现得更高效、更稳定，确保AI不仅能写代码，更能深度参与到代码的逻辑构建与自动化执行中。

行业影响

LongCat-2.0的问世对AI行业具有双重意义。首先，它证明了国产算力集群完全具备承载顶级万亿参数模型全生命周期开发的能力，增强了产业链的信心。其次，该模型在Agentic Coding领域的深耕，预示着AI辅助编程正在从简单的“代码补全”向具备自主理解与执行能力的“AI代理编程”演进。美团通过在超长上下文和动态参数架构上的创新，为垂直行业大模型的开发提供了新的技术路径。

常见问题

LongCat-2.0的参数规模是如何分布的？

LongCat-2.0的总参数量为1.6T。在实际运行中，它并非全部激活，而是根据任务动态调整，平均激活参数约为48B，波动范围在33B到56B之间，这种机制有效提升了推理效率。

该模型在训练环境上有何特殊之处？

该模型是业界首个在五万卡国产算力集群上完成全流程训练与推理的模型，这意味着它从底层算力到上层架构实现了高度的国产化适配与优化。

什么是Agentic Coding？LongCat-2.0对此有何优化？

Agentic Coding是指AI像代理（Agent）一样参与编程，不仅是生成代码，还涉及理解复杂逻辑和执行任务。LongCat-2.0通过原生支持1M超长上下文和特定的架构设计，提升了在处理这类复杂、长流程编程任务时的稳定性和效率。