美团发布万亿参数开源大模型 LongCat-2.0
美团近日正式对外揭晓其最新研发的万亿参数大模型 LongCat-2.0，并宣布将其全面开源。此举标志着国内大模型领域再添一员实力强劲的选手，同时也旨在促进行业内的技术交流与应用拓展。
LongCat-2.0 的诞生展现了国产算力集群的强大实力。该模型在超过五万卡规模的国产算力集群上完成了从训练到推理的全流程。这一壮举不仅验证了国产软硬件在大规模分布式计算环境下的可靠性，更为业内构建超大规模人工智能模型提供了宝贵的实践经验和参考范式。从技术层面来看，LongCat-2.0 拥有高达 1.6T 的总参数量。其采用的动态范围设计，使得激活参数量约为 48B，并且动态范围覆盖了 33B 至 56B 之间，这使得模型在存储海量知识的同时，能够兼顾推理过程的灵活性和效率。
在数据处理能力上，LongCat-2.0 同样表现出色。模型在预训练阶段使用了超过 30T tokens 的海量数据，这些数据不仅深度覆盖了中文和英文的语料，还整合了多语言和高质量的代码数据，从而实现了跨越不同领域的逻辑理解能力。尤为引人注目的是，LongCat-2.0 原生支持 1M 的超长上下文处理能力。这意味着在面对长篇文档分析、复杂代码库构建等需要深度理解长距离依赖的任务时，该模型能够保持卓越的连贯性和信息准确度。
美团将 LongCat-2.0 开源的决定，无疑为广大开发者社区带来了新的发展机遇。作为一款具备万亿参数级别的开源大模型，LongCat-2.0 不仅体现了美团在人工智能底层技术研发上的持续投入和深耕，更为国内大模型生态的蓬勃发展贡献了重要的算力基石。可以预见，随着 LongCat-2.0 的广泛应用，未来将涌现出更多依赖于超长上下文理解能力的创新人工智能应用。
LongCat-2.0 的开源为大模型领域注入了新的活力，其超长上下文处理能力和国产算力支持的特点，预示着在文档分析、代码生成、内容创作等场景下，将可能出现更高效率和更具深度的AI应用。模型的部署和应用门槛，将取决于开发者社区对其API和工具链的进一步适配和优化。