凯时AG

2026-07-21 03:32:34 设为首页 | 加入珍藏

业界首个!美团宣布LongCat-2.0:总参数规模1.6万亿 全程由国产算力训练

2026-07-21 03:32:34 宣布 泉源:腾讯动漫 作者:陈耀德 浏览:5890次

快科技6月30日新闻,,,,,,今日,,,,,,美团宣布新一代万亿参数大模子LongCat-2.0,,,,,,并将对外开源。。

据先容,,,,,,LongCat-2.0是业界首个依赖国产算力完成训练、推理全流程的万亿参数大模子,,,,,,总参数规模1.6万亿,,,,,,从零最先预训练,,,,,,原生支持1M超长上下文。。

此前,,,,,,该大模子的测试版本在OpenRouter上的总挪用量已跻身全球前三。。

其中在Hermes的月挪用量位列全球第一,,,,,,在Claude Code的月挪用量位列全球第二,,,,,,仅次于Claude Opus 4.8。。

LongCat官方宣布,,,,,,将于近期开源Infra框架、推理引擎、模子参数等焦点手艺,,,,,,以回馈全球开发者社区。。

据悉,,,,,,LongCat-2.0预训练数据规模凌驾30T tokens,,,,,,笼罩中文、英文、多语言和代码等多类数据。。

面临万卡级训练中的硬件故障、通讯异常、显存压力与数值波动,,,,,,LongCat团队从稳固性、准确性和效率三方面攻克国产算力训练难题。。

在稳固性上,,,,,,通过HCCL异常处理、弹性扩缩卡和自动故障恢复,,,,,,将月均日故障率降低70%以上。。

在准确性上,,,,,,通过自研设计确定性算子、Bitwise一致性验证和参数检测,,,,,,包管训练效果的可靠,,,,,,同时基于实践提升要害??榕趟憔取⒂呕疪educe逻辑。。

在效率上,,,,,,通过流水线调理、显存优化和算子级控核,,,,,,训练MFU提升1.5倍。。

最终,,,,,,LongCat实现稳态日吞吐凌驾1T tokens/day,,,,,,完成万亿参数MoE模子在国产算力上的稳固训练。。

关于股东大会来说,,,,,,一个主要的议程是投票。。

责任编辑:陈刚仲    校对:陈志桦

今日热门

  1. 中国科协选举爆发新一届向导机构 王光谦中选主席
  2. 中国单机容量最大高原山地风电项目投运
  3. 伊朗总统:伊朗与美国将于19日签署体贴备忘录
  4. 汤志理:十年“中文培优”改变英国中文教学生态
  5. 2026天下人工智能大会暨人工智能全球治理高级别聚会17日将在上海启幕
  6. CBA视察:我们需要一支怎样的山西男篮
  7. 树立和践行准确政绩观学习教育继续派出4其中央指导组
  8. 特朗普将抵京访华 大批记者云集机场
  9. 王毅在联合国点名:不可动辄毁约退群
  10. 上海青年学子以多元立异回应工业痛点

相关推荐

【网站地图】