端边芯片的竞争，，， ，才刚最先。。。。
在2026 WAIC现场，，， ，我们视察到：大模子的能力，，， ，正在从互联网和谈天框里走出来。。。。
两年前，，， ，行业对大模子的所有想象险些都在云端：参数越大越好，，， ，集群越强越好，，， ，谁在数据中心里堆的GPU多，，， ，谁就是赢家。。。。着实，，， ，这套逻辑到今天也没有错，，， ，但它只讲对了故事的一半。。。。
至于另一半，，， ，在云端之外，，， ，正在清静地爆发。。。。
Agent到来以后，，， ，人们发明，，， ，推理使命最先脱离数据中心，，， ，沉淀到了PC外地、手机外地、机械人的大脑里，，， ，以及更多叫不着名字的终端装备中。。。。终端形态各异，，， ，面临的是统一个“不可能三角”：功耗只有几瓦，，， ，本钱卡在几十美金，，， ，客户却要求它们跑得动几十亿甚至上百亿参数的模子。。。。
芯片行业已往十年没解过这种题，，， ，由于云端的规则是推高天花板，，， ，算力强者通吃。。。。而端边要做的是，，， ，在物理规则的铁笼子里，，， ，把大模子推理的效率逼到极致。。。。
这道题，，， ，重写了端边AI芯片的竞争规则。。。。
01. 大模子，，， ，正在走向端边
为什么端边大模子“一夜之间”就成为了时势所趋？？？？？
最近一段时间，，， ，黄仁勋重复在讲一个判断：推理算力需求约莫要增添一万倍，，， ，Token会成为新的计量单位。。。。
数字自己不是重点，，， ，量级的转变才是。。。。推理一旦酿成云云高频、一连、与账单直接关联的行为，，， ，全走云端在本钱上也就会越来越谬妄。。。。一次推理挪用花不了几个钱，，， ，但一天几亿次会是一笔很惊人的账。。。。
新的推理量级作育的本钱压力，，， ，会把越来越多的盘算推向端边。。。。
中国市场对这件事的反映比外洋更快，，， ，大宗应用方案公司已经在找芯片厂商，，， ，要求做外地加云端的混淆方案。。。。执法、金融这些笔直行业的需求尤其详细，，， ，对数据隐私和盘算延迟要求更高，，， ，对生产力工具迭代的嗅觉也更敏锐。。。。
相比验证看法，，， ，市场更需要的是能跑通、能量产的交付级产品。。。。而站在芯片公司的视角下，，， ，水温的转变正在于此：适配端边大模子的AI芯片，，， ，很快就会成为一批批真实的订单。。。。
一家深圳公司提供了一个样本，，， ，他们搭了一个端云混淆的Agent平台，，， ，上面跑着各行业的智能体，，， ，用于日常运营，，， ，用一套算法动态分配使命，，， ，实时判断哪些走外地，，， ，哪些上云端。。。。系统跑了一段时间之后，，， ，结论是：80%左右的使命在外地完成，，， ，只有20%走云端，，， ，平台还会自动统计客户省下了几多Token用度。。。。
这个数字说明晰一件事：大宗智能体的事情流程，，， ，外地算力完全可以承载，，， ，并且无论是终端装备照旧更好的AI芯片，，， ，客户购置外地算力都只需要一次性消耗，，， ，云端的token账单却要按用量、按月计费。。。。
经济账一旦跑通，，， ，迁徙就是不可逆的。。。。
本钱只是第一层，，， ，延迟是第二层。。。。端侧推理能做到毫秒级响应，，， ，云端推理则要受制于网络情形，，， ，关于需要实时交互的Agent来说，，， ，延迟是会破损使命的硬伤。。。。
隐私是第三层让端边大模子走向舞台中心的因素，，， ，数据即资产的认知越来越普遍，，， ，外地处理意味着照片、文件、视频数据始终留在外地装备里，，， ，不但清静，，， ，并且离线可用。。。。
也就是说，，， ，端边大模子可以联网获取外部信息，，， ，但外地数据和处理能力是留在外地的，，， ，断网也能跑。。。。关于不少需要在网络死角运行的工业装备和移动终端来说，，， ，清静可离线是数字化的生死线。。。。
几层变量叠加在一起，，， ，揭开了端边大模子价值升维的真正原因：大模子的价值锚点，，， ，正在从知识密度转向行动密度。。。。
一个会谈天的模子，，， ，只要云端的算力和数据就够了，，， ，而一个会做事的模子，，， ，由于推理频次和一连性大幅上升，，， ，带来了更显著的本钱和清静问题，，， ，必需往清静、无邪、可控的端边走，，， ，以是端边的比例只会越来越大。。。。
未来，，， ，主流解决方案的端云比例详细是几多不主要，，， ，但背后的逻辑很清晰：外地推理能知足的场景，，， ，肯定先用外地；；；；；外地做不了的，，， ，再上云端。。。。
与此同时，，， ，端边化的趋势也给硬件端抛出了一道新难题：云端芯片比的是一力降十会，，， ，算力即正义，，， ，而端边的游戏，，， ，竞争规则纷歧样，，， ，比的是另一种本事。。。。
走向端边大模子的AI芯片，，， ，逃不开的一个入局门槛是，，， ，怎样解开谁人“不可能三角“：即能力要求越来越高，，， ，要跑更大的模子、更快地处理使命，，， ，功耗却只有几瓦，，， ，本钱卡在几十美金。。。。
性能、本钱、功耗，，， ，三个约束相互咬合，，， ，放弃任何一个，，， ，都会让端边大模子失去适用的魅力。。。。
02. 新的终端，，， ，新的解法
把这个“不可能三角”从幕后推到台前的，，， ，是一批跟已往完全差别的终端。。。。
已往几年，，， ，AI在终端上的角色很轻。。。。好比给手机加个修图优化，，， ，给PC加个语音助手，，， ，于是前几年早早地就泛起了AI PC这个品类。。。。芯片厂商们的应对步伐也是轻量级的，，， ，Intel在Panther Lake里塞一点GPU或NPU，，， ，高通在骁龙里集成一个 NPU，，， ，属于对PC品类的锦上添花。。。。
但从2025年最先，，， ，新的装备形态最先冒头。。。。
“它们长得不像任何你见过的电脑，，， ，可能更像鸡蛋、像花瓶、像路由器。。。。”一位芯片创业者形貌客户样机的时间，，， ，用了这么几个比喻。。。。
但配合点是：它们不是“为人”设计的，，， ，是为了AI和Agent而设计的原生硬件。。。。以是不需要触控、键盘，，， ，不需要人坐在前面操作，，， ，可能也没有屏幕，，， ，但可以做到语音和多模态交互，，， ，7×24小时不中止运行。。。。它们的保存理由只有一个，，， ，就是让AIagent有一个物理的、一连在线的身体。。。。
这些装备有一个刚热起来的名字：Agent Computer。。。。
遐想今年头在拉斯维加斯Sphere宣布了全球首款个人超等智能体Qira，，， ，英伟达从DGX Spark一起推到RTX Spark。。。。两家巨头的行动指向统一个偏向：让Agent Computer从一个看法成为一个真实的硬件品类。。。。
WAIC现场。。。哄谙階I主机P7
但最终能够决议这个品类主流形态的，，， ，可能不是PC厂商，，， ，也不是芯片厂商，，， ，而是应用场景。。。。
单就通用性较强的家庭场景和企业场景，，， ，现在完全是“两拨人”在做两套差别的装备。。。。家庭要的是中枢大脑，，， ，好比放在客厅，，， ，调控灯光、影象对话、羁系老人孩子的看护；；；；；企业要的是生产力工具，，， ，跑执法文书、数据剖析、代码审查。。。。
统一家硬件厂商很难把这两套思绪一起做透，，， ，统一个芯片架构要笼罩这两种需求，，， ，也绝非易事。。。。这也就意味着，，， ，端边终端市场自然就是碎片化的。。。。
而终端形态的变异和碎片化，，， ，也进而倒推了AI芯片的界说。。。。
一个不中止承载Agent使命的装备，，， ，对外地算力的要求跟已往跑一个外地模子完全差别，，， ，它需要自力的、能力足够强的NPU，，， ，要大带宽、大存储容量，，， ，能处理长上下文的重大使命。。。。单个使命可能要跑半个小时甚至更久，，， ，中心不可断。。。。
新终端把不可能三角削得更尖了。。。。所有AI芯片玩家面临的是统一道题，，， ，必需把效率做到极致，，， ，这一点没有争议。。。。但解法在显着分化。。。。
高通和苹果走的是SoC延展蹊径，，， ，在原有ARM架构上加NPU，，， ，利益是生态成熟，，， ，几十亿装备已经在跑了，，， ，但改良的天花板就在头顶上。。。。通例架构哪怕堆到3纳米、2纳米的先进工艺，，， ，递减的制程盈利也带不来质变。。。。
英伟达从GPGPU往下延伸，，， ，算力储备不是问题，，， ，但三十年的CUDA生态既是护城河也是历史肩负，，， ，带着一整套为云端训练优化的架构往端边挪，，， ，跟背着一座山下山差未几。。。。
在巨头们的路径分野之间，，， ，泛起了第三条路：存算一体。。。。
存算一体的实质是从架构层面重新设计，，， ，把盘算和存储的物理界线突破。。。。古板芯片的瓶颈在于数据在盘算单位和存储单位之间往返搬运，，， ，功耗和时间都耗在路上，，， ，存算一体的解法是直接在存储单位里做盘算，，， ，搬数据的开销被压到最低。。。。
相比生态延展的蹊径，，， ，这条新路前期走得会更慢、更难，，， ，要一遍遍test chip，，， ，解决没人碰过的量产问题。。。。但优势在于，，， ，新架构的效率优势是结构性的，，， ，天花板上限也会更高。。。。
押注这条路的芯片玩家未几，，， ，正是由于外洋巨头舍弃不了生态游戏，，， ，在敢于做架构立异的厂商里，，， ，国产玩家的身位反而很突出。。。。建设于2020年底的后摩智能，，， ，算是其中跑得更早、存算一体蹊径更坚决的一家。。。。
到了端边大模子和Agent Computer这个时间拐点，，， ，芯片厂商的起点基本一样。。。。不像做手机基带，，， ，或者云端训练芯片，，， ，外洋已经领先了十年。。。。端边芯片的竞争中，，， ，国产并非完全没有先发优势，，， ，反而有时机在量产和行业落地的速率上，，， ，拿到身位的先机。。。。
03. 端边芯片的竞争，，， ，才刚打响
端边AI芯片是一条刚拉开的赛道，，， ，而选手已经在加速进场。。。。
现在的名堂大致可以分三类：高通和苹果这类SoC巨头，，， ，生态成熟，，， ，出货量重大，，， ，但端边大模子对他们来说照旧增量需求，，， ，改良基因决议了能力上限。。。。高通最近也在做自力NPU，，， ，说明它自己都清晰，，， ，集成方案不敷用了。。。。
英伟达依附GPGPU的算力势能从云端往下走，，， ，1 PetaFLOP的AI算力扔到消耗级装备里，，， ，火力是够的，，， ，但端边的功耗和本钱约束，，， ，是英伟达已往三十年险些不需要严肃看待的问题，，， ，却也是当下真金白银的市场需求。。。。
第三类则是像后摩智能这样专注端边的新玩家，，， ，弱点是量产履历和生态还缺乏，，， ，但与此同时也没有历史架构肩负，，， ，可以直接从终端的真实需求出发重新设计芯片。。。。
显而易见，，， ，最适合创业公司扎堆的第三类路径，，， ，战略决议更值得解构。。。。
以存算一体蹊径切入端边大模子的后摩智能，，， ，就是一家典范的“战略决议身位”的公司，，， ，首创人吴强早在2023年下半年就做出了一个判断：大模子会从云端往端边迁徙。。。。
其时，，， ，Agent还没有泛起，，， ，这个判断可以说没有太多证据。。。。大模子的主战场还在云端，，， ，海内六小龙都在卷参数和集群规模。。。。存算一体作为架构蹊径，，， ，做端边大模子有点像“横着切了一刀”。。。。
但吴强盯住了两个信号：智谱出了6B模子，，， ，Llama出了7B模子，，， ，大模子不再是几百B参数巨兽的专利，，， ，小模子也能跑呈现实可用的效果，，， ，在许多场景中阻止“大炮打蚊子”。。。。
团队拿存算一体架构试跑了一下外地大模子，，， ，跑得相当好。。。。既然云云，，， ，提前结构端边大模子，，， ，关于做存算一体起身的后摩来说，，， ，就成为了一件顺理成章的事。。。。
这个预判在两年后获得了麋集验证。。。。2025年DeepSeekR1横空出生，，， ，端侧安排大模子的手艺门槛也被大幅拉低；；；；；2026年Agent一波落地爆发，，， ，大宗硬件公司涌入做Agent Box、Agent Computer，，， ，ToC、ToB、To家庭的都有，，， ，而以上所有硬件厂商都需要解决一件事：找性价比最高、能量产的芯片。。。。
后摩由于提前两年做了却构，，， ，吃到了第一波盈利：由于市场上其时能选的成熟方案未几，，， ，战略和手艺蹊径上的先发优势，，， ，实着实在地转化成了客户和订单。。。。
产品性能层面，，， ，后摩漫界M50用存算一体做到160 TOPS，，， ，功耗约10瓦，，， ，单芯片能跑35B到120B参数的模子，，， ，笼罩AI PC、机械人、边沿推理等场景。。。。半年到一年前左右，，， ，端边芯片还只能跑7B模子，，， ，今天已经可以跑到120B的参数，，， ，重新标定了端边的能力界线。。。。
WAIC现场。。。汉竽β界M50
另一个佐证是，，， ，后摩漫界M50已经走到量产级。。。。在AI PC偏向，，， ，后摩先后进入了遐想和长城的供应链：遐想AI主机P7搭载M50全球首发，，， ，长城N90 Pro也用M50打出了端侧算力的卖点；；；；；操作系统层面，，， ，后摩漫界M50完成了与银河麒麟操作系统V11的深度适配；；；；；在端边大模子这条赛道上，，， ，后摩还与中国移动告竣了链永生态层面的相助，，， ，客户场景正在从Agent Computer向具身机械人、端边推理和智能移动终端延伸，，， ，量产订单已经最先转化。。。。
WAIC现场。。。撼こ荖90 Pro条记本
不过，，， ，虽然从芯片巨头到带着新架构加速入场的创业公司，，， ，都已经给出了自己的解法，，， ，但再把视角拉远一点，，， ，端边AI芯片的竞争还处于早期，，， ，接下来可以分成两个阶段来明确。。。。
第一个落地阶段，，， ，比的是效率，，， ，也就是谁能在功耗、本钱、面积的物理约束下，，， ，把大模子外地推理的能效推到极致，，， ，这是硬碰硬的工程能力比拼，，， ，花架子和恒久叙事在这个阶段没有用。。。。
而再往远看，，， ，在效率也逐渐收敛之后，，， ，第二个阶段比的就会是生态和场景适配。。。。也就是说，，， ，回到了英伟达的恬静区，，， ，磨练的是谁的工具链更完整，，， ，与主流模子框架的适配更顺滑，，， ，更快地帮客户把方案跑起来，，， ，恒久来看仍然能拉开越来越大的差别。。。。
在第一阶段，，， ，存算一体由于从架构层动了刀，，， ，自然在效率和功耗上有结构性优势，，， ，但这个窗口期也不会一直一连下去。。。。幸亏，，， ，国产厂商在这条赛道上的起点和外洋是平的，，， ，以后摩来说，，， ，依附架构的奇异性和提前结构，，， ，在海内外都具备站进第一梯队的条件。。。。
但行业也清晰，，， ，端边大模子现在还处在向行业价值过渡的时期。。。。AI NAS怎么做，，， ，home center怎么做，，， ，企业端的推理装备怎么做，，， ，大部分人都在探索，，， ，中心一定会有升沉，，， ，也一定会泛起大宗落伍的人。。。。
2023年，，， ，各人还只有一点Agent的看法，，， ，到了2025、2026年至少看到了场景，，， ，而从看加入景到规；；；；；涞，，， ，中心尚有一段长路要走。。。。
未来两年，，， ，端边场景里一定会跑出Killer App，，， ，会孵化出大模子原生的应用形态。。。。生产力工具、更智慧的智能家居和情绪陪同可能最先跑通闭环，，， ，面向公共的普惠应用则是下一步。。。。
不过，，， ，就像移动互联网时代才泛起了美团、滴滴和抖音，，， ，我们当下着实很难真正想象，，， ，未来能改变人类生涯甚至就业方式的主流应用会长什么样，，， ，经济价值又会是怎样转动起来的。。。。
在这场竞赛里，，， ，芯片是基础设施。。。。先落地、先跑通的算力底座，，， ，就能拿到下一阶段的入场券。。。。
