返回列表
美团发布LongCat-2.0:首个五万卡国产算力集群训练的1.6T万亿参数模型
行业新闻美团大模型国产算力

美团发布LongCat-2.0:首个五万卡国产算力集群训练的1.6T万亿参数模型

美团技术团队正式发布LongCat-2.0,这是业界首个在五万卡国产算力集群上完成从零预训练到推理全流程的万亿参数模型。该模型总参数量达1.6T,原生支持1M超长上下文,专注于提升Agentic Coding任务中的代码理解、生成与执行效率,标志着国产算力在大规模模型训练领域的重大突破。

美团技术团队

核心要点

  • 超大规模参数:模型总参数量达到1.6T,平均激活参数约48B,动态范围在33B至56B之间。
  • 国产算力里程碑:业界首个在五万卡国产算力集群上完成全流程训练与推理的模型。
  • 原生长上下文:支持1M(一百万)超长上下文,满足大规模代码库处理需求。
  • 专注编程智能体:核心目标定位于Agentic Coding,优化代码理解、生成与执行的稳定性。
  • 全流程自主:从零开始预训练,非微调版本,确保了模型底座的纯净与可控。

详细分析

国产算力集群的极限挑战与突破

LongCat-2.0的发布不仅是一个模型的更新,更是对国产算力基础设施能力的有力证明。在五万卡规模的集群上进行万亿参数模型的全流程训练,涉及极其复杂的分布式计算调度、通信带宽优化以及硬件稳定性管理。美团技术团队通过LongCat-2.0证明了国产算力集群能够承载1.6T这种量级的超大规模模型从零预训练到最终推理的任务,这为国内AI产业摆脱外部算力依赖提供了重要的实践参考。

1.6T参数下的动态激活架构设计

在架构设计上,LongCat-2.0追求性能与效率的极致平衡。虽然总参数量高达1.6T,但通过精妙的设计,其推理时的平均激活参数仅为48B,动态范围控制在33B至56B。这种设计使得模型在保持万亿级模型博学性的同时,能够以更低的计算成本进行快速响应。对于需要频繁迭代和执行的代码生成任务而言,这种高效的激活机制是确保模型在真实开发环境中落地的关键。

1M超长上下文与Agentic Coding的深度融合

LongCat-2.0原生支持1M超长上下文,这一特性直接解决了传统模型在处理大型项目代码时的“断片”问题。在Agentic Coding(智能体编程)场景下,模型需要同时理解项目全局架构、依赖关系以及具体的逻辑实现。1M的上下文容量允许模型将整个代码库或复杂的调用链路纳入处理范围,从而在代码理解、生成和执行过程中表现出更高的连贯性和准确性,真正实现从“辅助写代码”到“自主完成编程任务”的跨越。

行业影响

LongCat-2.0的问世对AI行业具有双重意义。首先,它验证了国产大规模算力集群在万亿参数模型训练上的可行性,增强了本土技术栈的信心。其次,它将大模型的研究重心进一步引向“Agentic Coding”这一垂直且极具商业价值的领域。通过在长上下文和动态激活架构上的创新,美团展示了如何将通用大模型能力转化为生产力工具,这将加速AI在软件工程自动化领域的渗透,改变开发者与代码交互的方式。

常见问题

问题 1:LongCat-2.0的参数规模和激活机制是怎样的?

LongCat-2.0的总参数量为1.6T。在实际运行中,它采用了动态激活机制,平均激活参数约为48B,根据任务复杂度,动态激活范围在33B到56B之间,这有效平衡了模型性能与推理效率。

问题 2:为什么强调“五万卡国产算力集群”?

这是业界首次在如此大规模的国产硬件集群上完成万亿参数模型的全流程(预训练+推理)任务。它标志着国产算力在硬件稳定性、集群通信和软件栈协同方面达到了支撑顶级大模型开发的要求。

问题 3:1M超长上下文对编程任务有什么具体帮助?

1M上下文意味着模型可以一次性读取并理解超过百万字的内容。在编程中,这相当于可以同时理解成千上万个代码文件,帮助模型在处理复杂系统架构时不会丢失上下文信息,从而更准确地进行代码重构、Bug修复和功能实现。

相关新闻

美团AI顶会论文精讲:32篇入选ACL/ICML等顶会,含杰出论文回放
行业新闻

美团AI顶会论文精讲:32篇入选ACL/ICML等顶会,含杰出论文回放

2026年,美团技术团队在AI学术领域取得丰硕成果,数十篇论文被ACL、SIGIR、ICML、KDD等国际顶尖学术会议收录。美团从中精选32篇核心论文,通过5大专场直播形式进行了深度技术拆解,其中包括备受瞩目的ACL'26杰出论文。本次系列分享旨在展示美团在AI前沿领域的探索,并为行业提供从理论研究到工业实践的宝贵经验。

美团搜推ASX团队顶会论文精选:大模型Agent技术体系的深度探索与实践
行业新闻

美团搜推ASX团队顶会论文精选:大模型Agent技术体系的深度探索与实践

美团业务研发平台/搜推 ASX (Agentic System X) 团队近期分享了其在 AI 国际顶会(如 ICLR、NeurIPS、CVPR、AAAI)发表的研究成果。该团队专注于构建以大模型为基础的 Agent 技术体系,在模型后训练、Agentic 强化学习及多模态理解等前沿领域取得了显著突破。本次分享精选了 6 篇高质量论文进行深度解读,旨在展示美团在搜索推荐及 Agent 技术方向的最新技术积淀与行业洞察。

ICML 2026 | 美团技术团队学术论文精选:深度探索机器学习前沿挑战
行业新闻

ICML 2026 | 美团技术团队学术论文精选:深度探索机器学习前沿挑战

本文聚焦于美团技术团队在ICML 2026国际机器学习顶级会议上的学术表现。ICML作为全球公认的行业风向标,致力于探讨机器学习未来的关键挑战。美团通过展示其精选的学术论文,体现了在理论研究与实际应用影响力方面的深厚积淀,进一步推动了全球机器学习领域的发展并引领未来研究方向。