中国企业首次实现ChatGPT级模子端侧安排 手机离线也能用AI

中国企业首次实现ChatGPT级模子端侧安排 手机离线也能用AI
2026-09-23 06:34:38 快科技 作者 英阿大战变自由搏击 绿化带成“果园” 广西南宁陌头挂满波罗蜜 赖家欣 新浪网官方账号

一家国产AI芯片企业今日宣布了业界首个在手机端外地运行的ChatGPT级大模子方案。。该方案可以在不联网的情形下,,,,,,在手机上运行130亿参数的大语言模子,,,,,,响应速率抵达每秒30个token。。

这一突破依赖于两方面的手艺立异:一是高效的模子压缩手艺,,,,,,将原本需要数十GB显存的模子压缩到4GB以内且性能损失不凌驾5%;;;;;;二是专用的AI加速芯片,,,,,,提供了强盛的端侧推理算力。。

端侧大模子的最大优势是隐私保;;;;;。。用户的对话数据完全在外地处理,,,,,,不会上传到云端服务器。。这关于涉及商业神秘、医疗隐私等敏感场景尤为主要。。

多家手机厂商已确认将在下一代旗舰机中接纳该方案。。剖析师展望,,,,,,端侧AI将成为2027年智能手机的焦点卖点,,,,,,推下手机行业的新一轮换机潮。。

特殊声明:以上文章内容仅代表作者自己看法,,,,,,不代表新浪网看法或态度。。若有关于作品内容、版权或其它问题请于作品揭晓后的30日内与新浪网联系。。
来自于:新浪网官方
网友谈论
好评中国|AI漫评:文旅焕活力 消耗燃热潮
江西湖口“90后”新农人扎根野外 向导乡亲致富增收
分享到微博
宣布
最热谈论
最新谈论
暂无谈论

举报邮箱:[email protected]

Copyright ? 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有