硬件原生FP8加持,摩尔线程完成美团LongCat-2.0 Day-0 极速适配
点击查看原文>
7 月 6 日,美团新一代万亿参数大模型 LongCat-2.0 正式宣布开源。
LongCat-2.0 官方开源地址:
https://github.com/meituan-longcat/LongCat-2.0
https://huggingface.co/meituan-longcat/LongCat-2.0
https://huggingface.co/meituan-longcat/LongCat-2.0-FP8
同日,摩尔线程基于 AI 训推一体全功能 GPU 智算卡 MTT S5000 及 MUSA 软件栈,已完成对该模型的快速适配。此次适配覆盖模型加载、推理引擎拉起、关键算子优化、部署验证与精度校验等全链路环节,使 LongCat-2.0 能够在 MTT S5000 上实现稳定、高效的推理运行,为开发者和企业客户提供更便捷的模型部署路径。

LongCat-2.0 模型在 MTT S5000 上运行
作为美团自研的新一代万亿参数 MoE 大模型,LongCat-2.0 总参数量达 1.6T(平均激活约 48B,动态范围 33B~56B)。
该模型专为 Agentic Coding 场景设计,原生支持 1M 超长上下文,并通过自研稀疏注意力机制(LSA)、ScMoE 跨层快捷连接架构与零计算专家动态激活机制,实现了资源的高效利用与多任务协同。综合评测结果显示,LongCat-2.0 凭借卓越的综合性能与稳定的任务表现,在 Code 和 General Agent 场景表现优异,已跻身全球最受开发者欢迎的智能体核心大模型之一。

摩尔线程技术团队依托高性能 SGLang-MUSA 推理引擎及 MUSA 软件生态,围绕 LongCat-2.0 的模型结构和推理特性,快速完成从框架兼容到性能优化的全链路适配。
硬件原生 FP8 加持,释放长上下文推理性能
LongCat-2.0 面向更复杂的任务处理需求,在实际部署中往往涉及长输入、多轮上下文、复杂指令分解和持续生成等推理负载,对 GPU 算力、显存容量、访存带宽和推理调度能力均提出更高要求。
MTT S5000 具备硬件级原生 FP8 加速能力,单卡具备高算力、大容量显存与高带宽,可为长上下文输入、KV Cache 读写和高并发推理提供稳定支撑。结合 SGLang-MUSA 推理引擎与 MUSA 软件栈的协同优化,LongCat-2.0 在 MTT S5000 上能够更充分释放推理性能,提升在线服务响应效率与系统吞吐能力。
摩尔线程基于持续沉淀的模型适配经验,将模型结构解析、权重加载、推理框架兼容、算子验证和部署测试形成标准化工程路径,使 LongCat-2.0 能够在 MTT S5000 上快速完成推理验证。这不仅进一步体现了 MUSA 软件栈对主流模型生态的高度兼容性,也有效降低了前沿模型在国产算力平台上的迁移和部署门槛。
服务 AI 应用落地,支撑 Coding、Agent 与企业知识场景
围绕 AI Coding、Agent 工作流、企业知识库问答和长文档分析等典型应用,摩尔线程对 LongCat-2.0 推理链路进行了部署级验证。通过框架、算子和调度层面的协同优化,MTT S5000 能够为客户提供兼具性能、稳定性和可扩展性的推理基础设施,助力大模型应用更快从技术验证走向生产部署。
此次完成 LongCat-2.0 模型 Day-0 支持,是国产大模型与国产芯片深度协同的又一重要实践。未来,摩尔线程将继续依托 MUSA 软件栈强大的生态兼容性,持续在第一时间适配前沿模型能力,以高性能、可规模化的国产全功能 GPU 基础设施,加速大模型应用创新落地。
本文来源:InfoQ