美团用一个匿名马甲,,,,赢了一场它本不必加入的考试
? 文 视察者网心智视察所
三月尾之前,,,,若是你在OpenRouter上搜索一个叫Owl Alpha的模子,,,,或许率不会有人告诉你它是谁做的。。。。。
它没有官网,,,,没有宣布会,,,,甚至连一句正式的自我先容都没有。。。。。它唯一的身份线索,,,,是一份跑分表格里靠前的名字,,,,以及开发者社区里悄悄撒播的一句话:这玩意儿接进Claude Code特殊好用。。。。。
比及美团把LongCat-2.0的手艺报告正式挂出来,,,,许多人才后知后觉地拼上了那块拼图:Owl Alpha,,,,就是LongCat-2.0戴着面具跑的那一起。。。。。它在Hermes榜单月挪用量全球第一,,,,在Claude Code的挪用生态里排第二,,,,在OpenClaw里排第三。。。。。
这是一次被动曝光的胜利,,,,先被开发者用出了口碑,,,,才被揭穿是谁做的。。。。。放在整个国产大模子的叙事里,,,,这个顺序着实很少见。。。。。绝大大都模子的进场方式,,,,是先宣布、先讲故事、再等市场验证;;;;;;LongCat-2.0走的是反过来的路,,,,先被验证,,,,再讲故事。。。。。
这件事自己,,,,比参数目更值得琢磨。。。。。
从硬指标来看,,,,LongCat-2.0是一个自研MoE混淆专家架构模子,,,,总参数1.6万亿,,,,每次推理现实激活约480亿,,,,原生支持100万token的上下文窗口。。。。。它被官方称为全球首个训练和推理全流程都跑在国产芯片上的万亿参数模子,,,,用美团自己的说法是"英伟达含量为0"。。。。。
这句话听起来像一句公关金句,,,,但对应的着实是一个此前业内没人真正跑通过的工程闭环:从预训练第一天最先,,,,所有盘算都压在国产卡集群上,,,,而不是像已往那样,,,,训练在英伟达平台上完成,,,,只把推理这一步挪到国产芯片上做单点验证。。。。。
这个区别很要害。。。。。已往几年,,,,国产算力跑推理这件事,,,,行业里已经有过不少案例,,,,一些大模子的线上服务确实实现了在国产平台上稳固对外提供服务。。。。。训练侧也有零星突破,,,,百亿甚至千亿参数级别的训练流程被陆续跑通过。。。。。
但仔细看这些效果,,,,实质上都是某个环节的能力证实,,,,训练归训练,,,,推理归推理,,,,谁也没有把两头串成一条完整的产线,,,,更没有人在万亿参数这个量级上做到过。。。。。LongCat-2.0第一次把这条产线重新到尾焊死在国产芯片上,,,,这才是它被称为“首个”的真正寄义,,,,而不是简朴地又多了一个大参数模子。。。。。
这件事有多灾呢,,,,先看看国产芯片和英伟达平台之间那道并不小的鸿沟。。。。。单卡显存更小,,,,意味着1.6万亿参数没法塞进少数几张卡,,,,只能拆到成千上万张卡上协同盘算;;;;;;跨节点通讯带宽又不如NVLink丰裕,,,,一旦盘算和通讯没对齐,,,,训练吞吐就会被硬生生拖慢。。。。。硬件差别之外,,,,软件生态的坑更隐藏。。。。。英伟达平台上那些被打磨了多年的算子库、调试工具、确定性盘算能力,,,,换到国产芯片上基本要重新写一遍。。。。。
手艺报告里提到一个详细的例子:FlashAttention的反向梯度算子,,,,国产平台原有简直定性实现只能单核串行运行,,,,速率比英伟达平台慢20到70倍,,,,这种速率基础没法用在真实的生产训练里。。。。;;;;;;痪浠八,,,,美团团队不是在一个成熟地基上盖楼,,,,而是先要把地基自己浇一遍。。。。。
这也是为什么美团要专门搭一整套自动化的故障处理系统。。。。。5万张卡规模的集群,,,,险些天天都会有硬件出问题,,,,从异常检测、链路切换到自动恢复,,,,所有需要自动化完成,,,,否则光是人工排查故障就能拖垮训练进度。。。。。据披露,,,,这套系统不但把日均故障率压了下去,,,,还支持训练使命从两千多张卡一起扩容到五万多张卡,,,,中心没有由于架构撑不住而推倒重来。。。。。这种细节恰恰是“万亿参数训推闭环”背后最硬核的部分。。。。。不要看算法自己有多智慧,,,,要看系统工程有没有踩过所有该踩的坑。。。。。
架构层面,,,,LongCat-2.0也不是简朴地把参数堆大。。。。。针对Agent场景下长上下文带来的注重力盘算压力,,,,团队设计了一套叫LongCat希罕注重力(LSA)的方案。。。。。这里有一个值得比照的配景:DeepSeek此条件出的希罕注重力方案DSA,,,,思绪是让模子只关注要害token来省算力,,,,但现实跑起来会遇到一个反直觉的问题:认真筛选要害token的索引器自己酿成了新的性能瓶颈,,,,序列越长,,,,索引盘算越慢,,,,显存会见越碎,,,,效率反而掉得更显着。。。。。
LSA就是从这个瓶颈切入的,,,,做了三项相对自力、可以按需组合的优化:把零星的访存请求整理成一连读取,,,,让相邻层共享索引效果,,,,再用两阶段筛选进一步压缩盘算量。。。。。三项叠加的效果,,,,是让100万token上下文的处理速率显着提升,,,,同时模子质量基本没有损失。。。。。
另一个设计思绪更反知识一些,,,,叫N-gram Embedding,,,,是从LongCat-Flash-Lite继续并强化而来的。。。。。行业里大部分MoE模子提升能力的路径,,,,是一直堆专家网络的数目和规模;;;;;;LongCat团队反其道而行之,,,,把一部分参数从后面的专家层“前移”到了Embedding层,,,,让模子在读到输入的第一步,,,,就能识别出高频词组和常见语言模式,,,,而不是要等模子往后跑几十层才反映过来。。。。。
这个改动带来的利益有两层:一是在代码明确、指令追随这类使命上准确率会提升,,,,由于模子不需要绕远路去“想明确”一些本该一眼看透的模式;;;;;;二是镌汰了专家网络之间频仍通讯带来的特殊开销,,,,这在超大规模MoE架构里是个实打实的本钱项。。。。。加上ScMoE快捷毗连、零盘算专家等设计,,,,这套架构着实都在服务统一个目的:让每一份算力都花在真正需要盘算的地方,,,,而不是铺张在冗余路径上。。。。。
这套架构优化叠加国产芯片自己的本钱优势,,,,直接体现在了一个很质朴的指标上:钱。。。。。测试者用统一段提醒词,,,,让LongCat-2.0和GPT-5.5、Opus 4.6、Opus 4.8天生统一套物理仿真代码,,,,四家输出效果在肉眼可见的层面上相差不大,,,,但LongCat-2.0的token消耗量显着最低,,,,只用了9004个token,,,,按美团官方的计费方式算下来,,,,本钱不到一毛钱。。。。。这背后虽然有产品定价战略的因素,,,,好比缓存掷中不计费、Token Plan不计入消耗,,,,但省钱这件事自己,,,,确实是LongCat-2.0在这轮测试里体现得最扎实的一项能力,,,,不是靠营销话术堆出来的印象分。。。。。
把这些测试放在一起看会更清晰一点。。。。。有人专门自己拼了一份几万字、中英混杂、跨多个行业研报和论文的长文档,,,,去测LongCat-2.0是不是真的把100万token的上下文读进去了,,,,效果发明藏在文瞪习段的信息、被特意拆分的完整统计数据,,,,它都能准确定位,,,,速率也不慢。。。。。也有人把一个GitHub上13k星标的开源2048游戏项目丢给它,,,,要求同时完成视觉气概刷新和棋盘规则改动这两类完全差别性子的使命,,,,LongCat-2.0自己拆出了一个七步妄想,,,,跑了12分钟后自力交付,,,,没有让人中途介入调解。。。。。再往后,,,,尚有人让它把整个项目从原生JavaScript迁徙到React,,,,游戏体现稳固,,,,但底层代码所有重写。。。。。
这些测试凑在一起,,,,指向的着实不是某一项详细能力有多惊艳,,,,而是一种相对综合、相对稳固的工程可用性。。。。。这恰恰是Agent场景里最被开发者看重、却最难在跑分榜单上量化的工具。。。。。
LongCat-2.0与竞品 benchmark比照
这也是为什么Owl Alpha的匿名走红,,,,值得单独拿出来说一说。。。。。跑分可以刷,,,,宣传可以造,,,,但一个模子若是连自己是谁都不说,,,,还能被开发者一连、大宗地选用,,,,这种信任是买不来的。。。。。某种意义上,,,,这是一种比果真榜单更硬的验证机制,,,,暂时可以称之为影子验证——没有品牌光环、没有话术加持,,,,纯粹靠好欠好用被市场挑出来。。。。。
LongCat-2.0用两个月时间证实的,,,,着实不但是纸面上的手艺指标能打,,,,更是国产芯片训出来的万亿参数模子,,,,放到一个完全中立、去标签化的情形里,,,,全球开发者依然会用真实的挪用量投票。。。。。
虽然,,,,把这次交卷简朴等同于“国产算力已经追上英伟达”,,,,也是一种太过解读。。。。。美团这三年走的路,,,,实质上是一条更慢、更贵的路。。。。。2023年头,,,,美团建设LongCat基座团队,,,,第一件事不是训模子,,,,而是先搭国产算力集群;;;;;;同年跑通千亿参数训练流程;;;;;;2024年在国产卡上验证MoE架构可行;;;;;;2025年推出5600亿参数的LongCat-Flash;;;;;;2026年才落地1.6万亿参数的LongCat-2.0。。。。。
这条时间线拉出来看,,,,每一步都是踩着坑往前挪的,,,,时代大宗的时间和本钱,,,,都花在了把英伟达平台上现成的工具在国产芯片上重新造一遍,,,,要把算子重写、调试工具重修、确定性盘算能力补齐,,,,这些事情自己不爆发任何直接的模子能力提升,,,,只是让后面的训练变得可能。。。。。用美团自己的话说,,,,这是一种"时间换空间"的选择:短期内接受适配阵痛,,,,换来恒久不被简单供应链卡住脖子的自动权。。。。。这笔账划不划算,,,,取决于你站在多长的时间维度上看它。。。。。
也正由于这条路更慢更贵,,,,LongCat-2.0这次交出的答卷,,,,与其说是一次手艺上的周全超车,,,,不如说是一次可行性的证实:证实晰国产算力具备支持先进大模子一连训练、一连安排、一连迭代的能力,,,,而不是只能完成一次性的、实验室级别的单点验证。。。。。这个证实自己的价值,,,,可能比模子在某几项评测上的详细分数更主要,,,,由于它决议的是厥后者要不要走这条同样艰难的路,,,,以及走这条路时心里有没有底。。。。。
站在美团的营业逻辑上再看这件事,,,,会更容易明确它为什么愿意投入这三年。。。。。今年3月,,,,美团焦点外地商业CEO王莆中在内部谈到AI时提过一个说法,,,,叫建设物理天下AI底座,,,,并体现公司会一连投入基础模子,,,,偏向是做有特色、低推理本钱、同时能力紧跟SOTA的模子。。。。。
这句话放在美团的营业盘子里着实很好明确,,,,美团要做的不是一个通用谈天助手意义上的超等大模子公司,,,,它的焦点资产是外卖、到店、配送这些高频、强履约、对本钱极端敏感的物理天下场景。。。。。一个模子若是推理本钱降不下来,,,,在这些场景里基础没法大规模落地;;;;;;一个模子若是能力跟不上SOTA,,,,又没法支持更重大的Agent化使命,,,,好比自动妄想配送路径、自动处理商家纠纷、自动天生到店场景的服务方案。。。。。
LongCat-2.0全程基于国产算力、又把本钱压到了很低的水平,,,,恰恰踩在这两个诉求的交织点上。。。。;;;;;;痪浠八,,,,这不是一次纯粹为了秀手艺肌肉的军备竞赛,,,,更像是美团在为自己未来要搭的明确层和行动层,,,,先把地基浇结实。。。。。
虽然,,,,这里也需要留一个问号。。。。。一次匿名测试的走红,,,,证实的是模子在编程和Agent这类特定场景下的适用性,,,,但它离“综合能力周全临齐一线模子”尚有距离,,,,果真报告里给出的评测数据现在也主要来自美团自己,,,,第三方自力评测的样本还不敷多,,,,这些都需要更长时间的市场使用去补齐。。。。。国产芯片蹊径自己的可一连性也是个需要一连视察的变量,,,,
这一次的五万卡集群能撑住万亿参数,,,,不代表下一次参数目再翻倍时,,,,同样的工程方案还能不可扛住,,,,硬件迭代的速率能不可跟上模子规模扩张的速率,,,,都是未知数。。。。。而放在更大的工业配景下,,,,“英伟达含量为0”这个说法自己,,,,也很难完全脱离当下全球芯片供应链博弈的语境去被纯粹解读为一次手艺叙事,,,,它同时也是一次面向工业链上下游、面向潜在客户的信号释放,,,,这一层意味也值得注重。。。。。
回到最最先谁人问题:Owl Alpha靠匿名走红,,,,靠的不是营销,,,,是被开发者用真实挪用量投出来的信任。。。。。这种信任一旦被市场记着,,,,下一次新模子上线,,,,可能就不需要再靠面具赢一次了。。。。。但反过来想,,,,若是这条路真的走得通,,,,下一个披着马甲、悄悄挤进全球开发者工具链的国产模子,,,,或许率也不会是最后一个。。。。。
泉源|心智视察所
榨取转载
@许惠彦:杏耀平台手机,,,,网传暖锅店艾滋病人留血迹系谣言@李建铭:两学生先后突发晕厥 民警实时施救
@林冠强:安徽将迎大雨到暴雨