凯时AG

2026-07-09 18:07:33 设为首页 | 加入珍藏

业界首个!美团宣布LongCat-2.0:总参数规模1.6万亿 全程由国产算力训练

2026-07-09 18:07:33 宣布 泉源:游戏猎人 作者:黄馨贤 浏览:8002次

快科技6月30日新闻,,,,今日,,,,美团宣布新一代万亿参数大模子LongCat-2.0,,,,并将对外开源。。

据先容,,,,LongCat-2.0是业界首个依赖国产算力完成训练、推理全流程的万亿参数大模子,,,,总参数规模1.6万亿,,,,从零最先预训练,,,,原生支持1M超长上下文。。

此前,,,,该大模子的测试版本在OpenRouter上的总挪用量已跻身全球前三。。

其中在Hermes的月挪用量位列全球第一,,,,在Claude Code的月挪用量位列全球第二,,,,仅次于Claude Opus 4.8。。

LongCat官方宣布,,,,将于近期开源Infra框架、推理引擎、模子参数等焦点手艺,,,,以回馈全球开发者社区。。

据悉,,,,LongCat-2.0预训练数据规模凌驾30T tokens,,,,笼罩中文、英文、多语言和代码等多类数据。。

面临万卡级训练中的硬件故障、通讯异常、显存压力与数值波动,,,,LongCat团队从稳固性、准确性和效率三方面攻克国产算力训练难题。。

在稳固性上,,,,通过HCCL异常处理、弹性扩缩卡和自动故障恢复,,,,将月均日故障率降低70%以上。。

在准确性上,,,,通过自研设计确定性算子、Bitwise一致性验证和参数检测,,,,包管训练效果的可靠,,,,同时基于实践提升要害??榕趟憔取⒂呕疪educe逻辑。。

在效率上,,,,通过流水线调理、显存优化和算子级控核,,,,训练MFU提升1.5倍。。

最终,,,,LongCat实现稳态日吞吐凌驾1T tokens/day,,,,完成万亿参数MoE模子在国产算力上的稳固训练。。

粤沪为何联动办展??给两地的文化建设带来哪些启示与价值??羊城晚报记者专访了“百川汇海:海丝帆影下的文明互鉴”特展执行策展人梅海涛。。

责任编辑:陈彦达    校对:侯仁嘉

今日热门

  1. 曾毓群:十年投入超千亿 零碳科技不是肩负是新机缘
  2. FIFA天价版权会毁掉天下杯吗
  3. 日本新生儿数目及总和生育率立异低
  4. 人社部拟宣布12个新职业 详细有哪些??一起来看→
  5. 东南大学迎来124周年校庆 科学手艺效果展精彩亮相
  6. 小心高血压年轻化 科学降压避开用药误区
  7. 黄土高原上的“粽子村”:一片苇叶包出亿元工业
  8. 防城海关关于开展2026年5月份“关向导接待日”的通告
  9. 多个球场刷新上座纪录:今年中超,,,,热度为何高
  10. 三星被索赔万万美元

相关推荐

【网站地图】