凯时AG

泉源:女子新婚2月遭3次家暴 审查院脱手作者: 吴侑秋:

谷歌谋害「焊死」Gemini!神秘芯片曝光, ,能效碾压TPU十倍

新智元报道

一醒觉来, ,谷歌突然就掏出了一张王炸!

据The Information独家爆料, ,谷歌正在研发一款代号「Frozen v2」的神秘服务器芯片——把Gemini模子的部分底层架构, ,永世蚀刻进硅片。。。

不是跑在芯片上, ,是长在芯片里。。。

加入项目的谷歌员工预计, ,按每瓦特能处理的Token数目算, ,这款芯片将比谷歌最新一代TPU高效6到10倍。。。安排时间, ,最快2028年。。。

新闻一出, ,Alphabet股价周一应声上涨3.7%, ,一扫前几周的阴霾。。。

「冻结」一个模子

Frozen这个名字, ,就是字面意思:把模子「冻」进硅片。。。

这事有多激进? ???不管是英伟达GPU照旧谷歌TPU, ,实质上都是通用芯片——什么模子都能跑。。。

这听起来很无邪, ,但价钱也很大:芯片在运行时必需做海量的实时决议, ,一直地搬运数据, ,重复盘问该往哪走、该怎么算。。。

就像一个什么菜都能做的后厨, ,每做一道菜都得现翻菜谱、现找工具、现调火候。。。效率可想而知。。。

Frozen v2则只为Gemini一个模子而生。。。

它把针对Gemini的要害决议路径直接内建进电路——芯片不必再「想」该怎么走, ,由于路已经浇铸在硅片里了。。。

要走的方法更少, ,要搬的数据更少, ,要做的决议更少。。。相当于给一道菜专门砌了一个灶台, ,灶眼巨细、锅具位置、火候档位, ,所有量身定制。。。

省下来的每一步冗余, ,都酿成实打实的能效。。。

着实, ,这个想法早有前身。。。最初的Frozen芯片由Google DeepMind首席科学家Jeff Dean主导, ,思绪更离谱:直接把模子权重烧进芯片。。。

权重是什么? ???就是决议模子怎么回覆问题的那套焦点参数。。。

但谁人方案被弃捐了——一旦权重烧死, ,芯片就只能服务某个特定版本的Gemini, ,模子一更新, ,芯片就报废, ,生命周期短得离谱。。。

Frozen v2是折中版:不烧权重, ,只固化架构。。。底层的盘算蓝图刻死, ,但权重还能更新。。。

这意味着只要Gemini的架构不大改, ,芯片就能一直用, ,新版本的参数照样灌得进去。。。

不过, ,谷歌仍在内部权衡, ,究竟把几多工具锁进硅片——锁得越多, ,效率越高, ,但无邪性也越差。。。这个分寸, ,就是整个项目最要害的工程判断。。。

算力荒, ,逼出来的

谷歌为什么要下这步险棋? ???

谜底很简朴, ,也很残酷:算力真的不敷用了。。。

不是「有点主要」那种不敷用, ,是「送上门的钱都不赚了」那种不敷用。。。

算力欠缺已经在谷歌内部引发强烈矛盾, ,Google Cloud被迫最先拒绝外部客户的订单——在商业公司里, ,这险些是最极端的信号。。。

6月, ,谷歌签下了一纸条约:每月向SpaceX支付9.2亿美元, ,租用11万张英伟达GPU的算力, ,条约一直签到2029年。。。

一家全球最大的云盘算公司, ,居然要向一家火箭公司租算力——光是这个画面, ,就足以说明AI军备竞赛已经疯狂到什么田地。。。

谷歌并不孤苦。。。

全行业都在往推理芯片上疯狂押注:SambaNova、d-Matrix这样的首创公司在做, ,OpenAI、微软也在做, ,亚马逊有Trainium和Inferentia, ,微软有Maia。。。

英伟达自己都坐不住了——去年12月豪掷200亿美元, ,拿下推理芯片公司Groq的手艺授权。。。

所有人的目的只有一个:把每一瓦电, ,榨出更多Token。。。

而「把模子硬连线进芯片」这条路, ,此前只有加拿大首创公司Taalas在走——它已从Quiet Capital、富达等投资方融资超2亿美元。。。

现在, ,谷歌亲自下场了。。。

一场豪赌

但十倍能效, ,不是白拿的。。。价钱是两个字:僵化。。。

只有后续世代的Gemini仍沿用芯片设计时的统一底层架构, ,Frozen v2才华继续事情。。。

换句话说, ,谷歌是在赌——赌自己未来几年不需要大改Gemini的造法。。。

从纯Transformer到MoE混淆专家, ,从纯文本到多模态原生, ,从麋集推理到希罕激活——模子架构的迭代速率, ,堪比手机行业最疯狂的年月。。。

谷歌自己也清晰这个风险。。。以是Frozen v2不会做到TPU的产量规模, ,更像一次有限度的试验:赌对了, ,就是印钞机, ,每瓦电多榨几倍Token, ,数据中心省下来的电费和机柜都是纯利润;;;;;;赌错了, ,就当交学费, ,教工程师学会怎么造更专用的芯片, ,为下一代积累履历。。。

值得玩味的是时机。。。就在上周, ,彭博爆出Gemini 3.5 Pro因编程能力等多项指标不达标而三度延期。。。

模子侧腹背受敌的谷歌, ,突然把更多筹码推向了自己最深的那条护城河——芯片。。。

从昔时自研TPU镌汰对英伟达的依赖, ,到今天把模子直接焊死进硅片, ,谷歌走的是统一条路的更深处:软硬件协同的止境, ,是软硬件合体。。。

AI的竞争最先拼物理。。。

参考资料:

https://x.com/kimmonismus/status/2079193746944790666?s=20

https://castlecrypto.gg/news/alphabet-shares-rise-following-reports-of-ultra-efficient-ai-chip/

编辑:所罗门

@蔡馨兰:南宫娱乐官方, ,“机械人朋侪”订单破1.1万台
@陆欣怡:广西村民为救援队杀鸡煮饭
@黄惠祥:A股三大指数整体低开

【网站地图】