端侧革命???vivo以MOE破局!

端侧革命???vivo以MOE破局!
2026-09-16 06:32:56 快科技 作者 盘货往年高考“显眼包”名时势 中国海警2026年海洋伏季休渔执法行动圆满收官 林宜雅 新浪网官方账号

作者 | 平章

出品 | 《易现场》

2026年,,,,,,大模子竞赛进入“下半场”。。当互联网巨头仍在比拼云端模子的参数规模与推理速率时,,,,,,手机厂商却正在悄然开启一场“端侧革命”。。

9月16日,,,,,,2026 vivo开发者大会现场,,,,,,vivo副总裁、OS领域副总裁、vivo AI全球研究院院长周围向《易现场》等叙述了端侧大模子、系统底座与个人化智能的问题。。

相较往年“不盲目追参数目”的守旧口径,,,,,,这次周围明确亮相vivo已最先预研蓝心30B MOE端侧模子,,,,,,并把“专家希罕加载”作为手机跑大模子的焦点解法。。在他看来,,,,,,端侧大模子不是“能不可跑”的问题,,,,,,而是“为什么必需跑”的战略必选项——隐私控制权、个人化智能、系统级执行,,,,,,以及芯片硬化带来的功耗优化,,,,,,配合组成了手机厂商必需走端侧的焦点动因。。

这不但是一次手艺释疑,,,,,,背后更是一家头部手机厂商对“为什么必需走端侧”的深层思索。。

为什么从“全量加载”转向30B MOE端侧模子

周围一开场就坦言,,,,,,去年vivo对端侧大模子的判断偏审慎:7B、3B全量载入已对内存形成压力。。

周围复盘了这一转变:“好家伙,,,,,,在今年年头的时间发明,,,,,,大模子着实不是要一次就加载完的,,,,,,它是可以MOE,,,,,,每次只要加载几个专家模子就行了。。”在他看来,,,,,,手机自己拥有512GB甚至1TB的存储空间,,,,,,旗舰机内存也普遍来到12GB,,,,,,拿出2-3G内存运载MOE模子,,,,,,让端侧跑大模子酿成了现实。。

按vivo目今预研口径,,,,,,30B并非“浓密模子全跑”,,,,,,而是总参数切分为数十到上百个专家,,,,,,单次推理动态激活1-3B,,,,,,内存占用可压到2-4GB。。

“30B给各人的错觉是很大,,,,,,着实只是把它切成了30块或者100块。。”周围诠释道。。作为参照,,,,,,Qwen3-30B-A3B总参约30.5B、激活约3.3B,,,,,,在桌面全量量化仍常需20GB级内存;;;;;vivo的2-4GB属于高怀抱化、按需分页、只常驻部分专家的端侧工程口径。。

周围坦言,,,,,,30B MOE现在仍是工程验证,,,,,,不会连忙上量产机型。。原因有两层:模子自己需调校,,,,,,硬件需等芯片妄想,,,,,,“今年提液态玻璃是由于24个月前就妄想了芯片,,,,,,今年提MOE,,,,,,同样需要24个月后对应的芯片妄想落地。。”

他展望,,,,,,到2028年底,,,,,,MOE实现大模子能力在端侧一定会酿成现实。。

功耗与常驻:端侧该怎样“跑”???

端侧30B最容易被质疑的是续航。。对此,,,,,,周围向《易现场》做出叙述:专家常驻RAM自己耗电极低,,,,,,真正耗电在于“搬运”--从存储或闲置专家区调参进盘算单位。。

据周围透露,,,,,,3B级初期方案事情电流曾约800mA,,,,,,迭代后可降到500-600mA;;;;;30B MOE若只切专家、由算力芯片完成搬运与推理,,,,,,理想事情电流约500mA,,,,,,而2028年其工程目的为600mA上下。。

这要求系统层做三件事:其一是统一渲染与盘算资源调理。。OriginOS 7的通透玻璃、动态光影并非纯软实现,,,,,,2024年vivo已把高斯模糊、图层合并硬化进芯片,,,,,,阻止走CPU软绘带来的功耗崩塌;;;;;其二是模子权重分层,,,,,,高频专家常驻、低频专家存储待命,,,,,,跨域使命只换专家不换全模子;;;;;其三是端侧推理与OS Harness融合,,,,,,蓝心小V挪用相册、日历、设置等本机功效时不必每次传云。。

周围以相册为例,,,,,,“端侧模子后台默默感知并影象了特征,,,,,,用户问‘国庆带小孩在海边’的照片,,,,,,瞬间就能完成。。相册100GB照片若是在服务器跑要半天,,,,,,但端侧模子在Main-Loop里早就建好了个人化存储空间。。”这类感知影象,,,,,,正是30B MOE后续替换小模子、做个人化编排的基础。。

手机厂商为什么一定要走端侧???

把30B MOE放在vivo整体AI战略里,,,,,,把Agent从“语音触发—云上推理—返回效果”改成了“外地明确—外地预判—人工确认”。。

为什么手机厂商必需走端侧???以下是vivo高管们强调的焦点逻辑。。

第1,,,,,, 隐私与数据控制权。。周围多次强调,,,,,,手机是贴身装备,,,,,,相册、谈天纪录、家庭关系等敏感数据若所有上云,,,,,,隐私风险不可控。。而鉴于vivo承继着“用户是机场塔台,,,,,,飞机起不腾飞由用户说了算”的清静原则,,,,,,可在外地完成感知、影象和推理的端侧模子,,,,,,数据不出端,,,,,,用户可一键删除所有AI影象,,,,,,这就是vivo坚持自研端侧模子、而非完全依赖云的主要因素。。

第2,,,,,, 个人化智能需要本机全量上下文。。vivo AI产品总司理关岩冰指出,,,,,,各人用种种Agent时总要重复输入配景信息,,,,,,而手机上存着用户最全的个人数据。。

周围举了一个生动的例子:做旅游攻略,,,,,,第三方APP也能做,,,,,,但若是你妻子有身了,,,,,,你可能忘了跟第三方APP说;;;;;而蓝心小V会很知心地说“能不可带个折叠小凳子???”尚有,,,,,,你看了《飞驰人生》聊了巴音布鲁克,,,,,,小V去新疆就会建议你去巴音布鲁克。。“只有懂你家庭关系、社会关系和行为偏好的Harness,,,,,,才华做出让你尖叫的产品。。”这种个人化,,,,,,必需依赖端侧恒久影象和外地模子。。

第3,,,,,, 系统级执行与原子能力挪用。。vivo目今已把本机6000个原子能力接入小V,,,,,,恒久目的按PC Harness标准补足到约3万个接口。。30B MOE可作为本机编排大脑,,,,,,直接挪用设置、相册、日历、通讯等,,,,,,不必所有方法走GUI自动化。。

周围直言:“纵然在PC上,,,,,,私有应用对GUI的支持也很是弱,,,,,,手机不需要那么执着。。”端侧模子可以直接明确意图、挪用底层功效,,,,,,这是第三方云助手无法做到的,,,,,,它们没有系统权限。。

第四,,,,,,芯片硬化与功耗优化的终端厂商优势。。纯软算法无法实现液态玻璃效果,,,,,,vivo在2024年就把高斯模糊硬化进芯片;;;;;同样,,,,,,端侧大模子的低功耗运行必需依赖NPU、内存带宽和算力的协同设计。。周围体现,,,,,,只有终端厂商去和芯片厂商相助,,,,,,才华把这个端侧做得较量好。。这也是为什么vivo坚持自研模子并走端侧蹊径。。

第五,,,,,,无网络场景与无障碍刚需。。周围特意体现,,,,,,vivo的无障碍功效(如vivo闻声)在飞机上无网络时,,,,,,依然可以全程端侧语音识别,,,,,,服务听障人群。。这证实端侧模子不是噱头,,,,,,而是真实场景的必选项。。

基于以上原因,,,,,,vivo判断:未来Agent手机的焦点竞争力不在于云端基模有多大,,,,,,而在于端侧模子能否与系统深度融合,,,,,,形成个人化智能。。

采访最后,,,,,,周围再次强调了vivo的产品哲学:“产品的竞争力不是和友商比,,,,,,而是是否真正让用户知足。。就像无障碍功效,,,,,,我们做出了让用户偏幸的、好许多的产品。。未来,,,,,,蓝心小V会成为你专属的个人助理,,,,,,这是凯时AG愿景。。”

特殊声明:以上文章内容仅代表作者自己看法,,,,,,不代表新浪网看法或态度。。若有关于作品内容、版权或其它问题请于作品揭晓后的30日内与新浪网联系。。
来自于:新浪网官方
网友谈论
国家数据局:天下已建成高质量数据集12万个
美国常驻联合国代表体现:美方暂停对伊朗军事攻击 为谈判留出空间
分享到微博
宣布
最热谈论
最新谈论
暂无谈论

举报邮箱:[email protected]

Copyright ? 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有