返回列表
美团发布LongCat-2.0:首个五万卡国产算力集群训练的1.6T万亿参数模型
产品发布美团国产算力大语言模型

美团发布LongCat-2.0:首个五万卡国产算力集群训练的1.6T万亿参数模型

美团技术团队正式发布LongCat-2.0模型。该模型是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型,总参数量达到1.6T。LongCat-2.0采用从零预训练模式,原生支持1M超长上下文,核心聚焦于Agentic Coding任务,旨在提升代码理解、生成与执行的效率与稳定性,标志着国产算力在大规模模型训练领域的重大突破。

美团技术团队

核心要点

  • 国产算力里程碑:业界首个在五万卡国产算力集群上完成从预训练到推理全流程的万亿级模型。
  • 超大规模参数架构:模型总参数量达1.6T,采用动态激活机制(平均激活约48B,动态范围33B~56B)。
  • 原生长文本支持:从零开始预训练,原生支持1M(一百万代币)超长上下文处理能力。
  • 专注编程智能:架构设计核心目标为Agentic Coding,强化模型在真实编程任务中的理解与执行能力。

详细分析

国产算力集群的大规模协同突破

LongCat-2.0的发布不仅是一个模型的更新,更是国产算力基础设施能力的集中展示。该模型在五万卡规模的国产算力集群上完成了全流程的训练与推理,这一过程涵盖了从底层硬件调度到上层算法优化的全链路挑战。在如此大规模的集群上实现万亿参数(1.6T)模型的稳定训练,意味着国产算力在互联带宽、集群稳定性以及分布式计算框架适配方面已经达到了工业级的高标准。这为后续更大规模、更复杂架构的国产模型研发提供了宝贵的实践经验和技术底座。

万亿参数与动态激活的架构演进

在架构设计上,LongCat-2.0展现了极高的灵活性与效率平衡。虽然其总参数量高达1.6T,但通过精细的架构设计,模型在运行时的平均激活参数仅约为48B,且能根据任务需求在33B至56B之间动态调整。这种设计确保了模型在具备万亿级参数所带来的强大表征能力的同时,能够保持较高的推理效率和响应速度。此外,模型原生支持1M超长上下文,这意味着它能够一次性处理极大规模的代码库或技术文档,彻底解决了传统模型在处理复杂长项目时容易丢失上下文信息的痛点。

聚焦Agentic Coding的实战化设计

LongCat-2.0的研发初衷非常明确,即服务于真实的Agentic Coding(智能体编程)任务。与通用的代码生成模型不同,LongCat-2.0从零预训练阶段就开始围绕代码理解、生成与执行的稳定性进行优化。在Agentic Coding场景下,AI不仅需要写出代码,还需要理解复杂的逻辑依赖,并能在模拟或真实环境中稳定执行。LongCat-2.0通过架构层面的针对性设计,显著提升了模型在处理此类任务时的效率,使其能够更精准地辅助开发者完成从需求分析到代码落地的全流程自动化。

行业影响

LongCat-2.0的问世对AI行业具有双重意义。首先,它验证了国产算力集群承载超大规模模型全生命周期的可行性,增强了行业对国产硬件生态的信心。其次,1.6T参数规模与1M超长上下文的结合,配合对Agentic Coding的深度优化,预示着AI辅助编程正从简单的“代码补全”向高度自动化的“编程智能体”时代跨越。美团技术团队的这一成果,为大模型在垂直专业领域的深度应用树立了新的标杆。

常见问题

问题 1:LongCat-2.0的参数规模和激活机制是怎样的?

LongCat-2.0的总参数量为1.6T。它采用了动态激活机制,在实际运算过程中,平均激活的参数量约为48B,动态范围在33B到56B之间,实现了高性能与高效率的平衡。

问题 2:该模型在算力支持方面有何特殊性?

它是业界首个在五万卡国产算力集群上完成全流程训练与推理的模型。这证明了国产算力在支撑万亿级参数模型从零预训练到最终部署推理方面的完整能力。

问题 3:什么是Agentic Coding,LongCat-2.0为此做了哪些优化?

Agentic Coding是指模型作为智能体参与到代码的理解、生成及执行的全过程中。LongCat-2.0通过从零预训练和原生1M超长上下文支持,专门针对这一任务的效率和稳定性进行了架构设计,使其在处理真实编程任务时更加可靠。

相关新闻