凯时AG

WAIC系列|对话聆思科技韩超阳:芯片将于年底流片 2026年底推出

作者:吴伯奇
宣布时间:2026-07-22 05:33:53
阅读量:91

WAIC系列|对话聆思科技韩超阳:芯片将于年底流片 2026年底推出

7月18日新闻 ,,, ,,在WAIC 2026时代 ,,, ,,聆思科技市场副总裁韩超阳围绕端侧大模子推理芯片揭晓主题演讲 ,,, ,,并在会后接受对话交流。。。。。谈及目今市场 ,,, ,,韩超阳给出了两个判断。。。。。韩超阳体现:“需求很是迫切。。。。。”但就工业历程而言 ,,, ,,韩超阳同时体现:“现在还处于萌芽阶段。。。。。”在他看来 ,,, ,,偏向已经明确 ,,, ,,但真正匹配终端需求的芯片和应用仍在形成 ,,, ,,需要终端、模子和芯片厂商配合推进。。。。。

据先容 ,,, ,,聆思此前主要面向智能家居、智能衣着和教育办公等场景提供端侧感知模子AI推理芯片 ,,, ,,相关产品累计出货量已凌驾1.5亿颗。。。。。约两年前 ,,, ,,聆思最先结构端侧大模子推理芯片Nebula ,,, ,,并与模子厂商及内部算法团队配合研究Transformer架构、底层算子和模子运行特征。。。。。关于研发进度 ,,, ,,韩超阳体现:“现在的节奏是 ,,, ,,到年底举行流片 ,,, ,,明年上半年正式推出样片。。。。。”凭证产品妄想 ,,, ,,Nebula单芯片支持3B至13B参数规模的LLM、VLM和VLA模子。。。。。在7B模子推理场景下 ,,, ,,目的实现Decode每秒100个Token ,,, ,,典范平均功耗为5W至15W。。。。。现在 ,,, ,,聆思已与遐想、面壁智能、海尔等相助同伴围绕终端形态和应用需求开展联合预研。。。。。

在韩超阳看来 ,,, ,,端侧大模子芯片不可只较量TOPS。。。。。韩超阳体现:“算力很主要 ,,, ,,但不是唯一指标。。。。。”大模子推理中的Prefill和Decode阶段对算力、内存带宽的需求差别 ,,, ,,标称算力高并不即是现实推理效率高。。。。。韩超阳体现:“除了关注绝对算力外 ,,, ,,还要关注算力使用率。。。。。”聆思为Nebula设定的算力使用率目的凌驾70% ,,, ,,并以为在使用率合适的条件下 ,,, ,,端侧80T至200T是较为合理的算力规模。。。。。

为缓解内存带宽瓶颈 ,,, ,,Nebula接纳3D WoW近存盘算手艺 ,,, ,,通过3D DRAM堆叠将内存带宽提升至1TB/s。。。。。韩超阳体现:“3DDRAM确实是平衡各方面本钱、功耗跟性能的最优综合解决方案。。。。。”他以为 ,,, ,,云端可以优先追求性能 ,,, ,,终端却必需在功耗、散热、空间和本钱的多重限制中完成推理 ,,, ,,因此简单性能指标难以反映产品的真实可用性。。。。。

别的 ,,, ,,端侧芯片还要面临模子迭代速率远快于芯片研发周期的问题。。。。。韩超阳体现:“我们不可针对目今的算法 ,,, ,,用固化的理念去做固化的芯片 ,,, ,,否则可能跟不上时代潮流 ,,, ,,在大模子迭代时很快被镌汰。。。。。”聆思的做法是 ,,, ,,对Transformer架构中通用、高频且相对稳固的算子举行专门优化 ,,, ,,同时为可能转变的部分保存无邪算力和可编程架构。。。。。韩超阳体现:“一定要上下游细密耦合设计 ,,, ,,才华施展出最大的性能优势。。。。。”

在应用落地上 ,,, ,,韩超阳以为AIPC及其他AI办公硬件可能最快形陋习模需求。。。。。用户已通过云端大模子感受到效率提升 ,,, ,,司法、金融、信创和软件开发等涉及敏感数据或焦点代码的场景 ,,, ,,对外地推理和隐私;;;;;;さ男枨笥绕涿魅贰!。。。智能座舱同样需求迫切 ,,, ,,但汽车量产周期更长;;;;;;与自动驾驶相比 ,,, ,,座舱中的交互、明确和服务场景更适合率先接纳端侧大模子。。。。。

具身智能机械人是另一个主要偏向。。。。。韩超阳以为 ,,, ,,目今机械人的运动控制能力前进较快 ,,, ,,但认真明确、妄想和泛化的大脑仍显缺乏。。。。。韩超阳体现:“智能机械人一定是刚需。。。。。”不过 ,,, ,,机械人要形成现实使用价值 ,,, ,,芯片仍需在更小体积和更低功耗下提升推理能力。。。。。全屋智能也被聆思列为重点场景 ,,, ,,外地家庭算力主机有望解决隐私和云端挪用本钱问题。。。。。

面临模子公司、终端厂商进入芯片环节 ,,, ,,韩超阳并不将其视为零和竞争。。。。。韩超阳体现:“没有一家厂商能单独完成所有硬件产品 ,,, ,,这是不可能的。。。。。”聆思现阶段妄想以推理协处理器适配差别主控芯片 ,,, ,,在详细应用形成足够规模后 ,,, ,,再思量集成为SoC。。。。。对聆思而言 ,,, ,,Nebula能否按妄想完成流片和样片交付 ,,, ,,并把联合预研转化为量产终端 ,,, ,,将成为下一阶段的主要使命。。。。。(定西)

 

文章点评

未盘问到任何数据!

揭晓谈论

◎接待加入讨论 ,,, ,,请在这里揭晓您的看法、交流您的看法。。。。。

最新文章

热门文章

随机推荐

【网站地图】