谷歌谋害「焊死」Gemini!神秘芯片曝光,,能效碾压TPU十倍
新智元报道
一醒觉来,,谷歌突然就掏出了一张王炸!
据The Information独家爆料,,谷歌正在研发一款代号「Frozen v2」的神秘服务器芯片——把Gemini模子的部分底层架构,,永世蚀刻进硅片。。。
不是跑在芯片上,,是长在芯片里。。。
加入项目的谷歌员工预计,,按每瓦特能处理的Token数目算,,这款芯片将比谷歌最新一代TPU高效6到10倍。。。安排时间,,最快2028年。。。
新闻一出,,Alphabet股价周一应声上涨3.7%,,一扫前几周的阴霾。。。
「冻结」一个模子
Frozen这个名字,,就是字面意思:把模子「冻」进硅片。。。
这事有多激进????不管是英伟达GPU照旧谷歌TPU,,实质上都是通用芯片——什么模子都能跑。。。
这听起来很无邪,,但价钱也很大:芯片在运行时必需做海量的实时决议,,一直地搬运数据,,重复盘问该往哪走、该怎么算。。。
就像一个什么菜都能做的后厨,,每做一道菜都得现翻菜谱、现找工具、现调火候。。。效率可想而知。。。
Frozen v2则只为Gemini一个模子而生。。。
它把针对Gemini的要害决议路径直接内建进电路——芯片不必再「想」该怎么走,,由于路已经浇铸在硅片里了。。。
要走的方法更少,,要搬的数据更少,,要做的决议更少。。。相当于给一道菜专门砌了一个灶台,,灶眼巨细、锅具位置、火候档位,,所有量身定制。。。
省下来的每一步冗余,,都酿成实打实的能效。。。
着实,,这个想法早有前身。。。最初的Frozen芯片由Google DeepMind首席科学家Jeff Dean主导,,思绪更离谱:直接把模子权重烧进芯片。。。
权重是什么????就是决议模子怎么回覆问题的那套焦点参数。。。
但谁人方案被弃捐了——一旦权重烧死,,芯片就只能服务某个特定版本的Gemini,,模子一更新,,芯片就报废,,生命周期短得离谱。。。
Frozen v2是折中版:不烧权重,,只固化架构。。。底层的盘算蓝图刻死,,但权重还能更新。。。
这意味着只要Gemini的架构不大改,,芯片就能一直用,,新版本的参数照样灌得进去。。。
不过,,谷歌仍在内部权衡,,究竟把几多工具锁进硅片——锁得越多,,效率越高,,但无邪性也越差。。。这个分寸,,就是整个项目最要害的工程判断。。。
算力荒,,逼出来的
谷歌为什么要下这步险棋????
谜底很简朴,,也很残酷:算力真的不敷用了。。。
不是「有点主要」那种不敷用,,是「送上门的钱都不赚了」那种不敷用。。。
算力欠缺已经在谷歌内部引发强烈矛盾,,Google Cloud被迫最先拒绝外部客户的订单——在商业公司里,,这险些是最极端的信号。。。
6月,,谷歌签下了一纸条约:每月向SpaceX支付9.2亿美元,,租用11万张英伟达GPU的算力,,条约一直签到2029年。。。
一家全球最大的云盘算公司,,居然要向一家火箭公司租算力——光是这个画面,,就足以说明AI军备竞赛已经疯狂到什么田地。。。
谷歌并不孤苦。。。
全行业都在往推理芯片上疯狂押注:SambaNova、d-Matrix这样的首创公司在做,,OpenAI、微软也在做,,亚马逊有Trainium和Inferentia,,微软有Maia。。。
英伟达自己都坐不住了——去年12月豪掷200亿美元,,拿下推理芯片公司Groq的手艺授权。。。
所有人的目的只有一个:把每一瓦电,,榨出更多Token。。。
而「把模子硬连线进芯片」这条路,,此前只有加拿大首创公司Taalas在走——它已从Quiet Capital、富达等投资方融资超2亿美元。。。
现在,,谷歌亲自下场了。。。
一场豪赌
但十倍能效,,不是白拿的。。。价钱是两个字:僵化。。。
只有后续世代的Gemini仍沿用芯片设计时的统一底层架构,,Frozen v2才华继续事情。。。
换句话说,,谷歌是在赌——赌自己未来几年不需要大改Gemini的造法。。。
从纯Transformer到MoE混淆专家,,从纯文本到多模态原生,,从麋集推理到希罕激活——模子架构的迭代速率,,堪比手机行业最疯狂的年月。。。
谷歌自己也清晰这个风险。。。以是Frozen v2不会做到TPU的产量规模,,更像一次有限度的试验:赌对了,,就是印钞机,,每瓦电多榨几倍Token,,数据中心省下来的电费和机柜都是纯利润;;;;;;赌错了,,就当交学费,,教工程师学会怎么造更专用的芯片,,为下一代积累履历。。。
值得玩味的是时机。。。就在上周,,彭博爆出Gemini 3.5 Pro因编程能力等多项指标不达标而三度延期。。。
模子侧腹背受敌的谷歌,,突然把更多筹码推向了自己最深的那条护城河——芯片。。。
从昔时自研TPU镌汰对英伟达的依赖,,到今天把模子直接焊死进硅片,,谷歌走的是统一条路的更深处:软硬件协同的止境,,是软硬件合体。。。
AI的竞争最先拼物理。。。
参考资料:
https://x.com/kimmonismus/status/2079193746944790666?s=20
https://castlecrypto.gg/news/alphabet-shares-rise-following-reports-of-ultra-efficient-ai-chip/
编辑:所罗门
@蔡馨兰:南宫娱乐官方,,“机械人朋侪”订单破1.1万台@陆欣怡:广西村民为救援队杀鸡煮饭
@黄惠祥:A股三大指数整体低开
热门排行
- 1 135edf壴定发娱乐
- 2 风云体育官方
- 3 世界杯竞赛
- 4 ladbrokes官方旗舰店
- 5 线上娱乐靠谱
- 6 世界杯买球买1赔多少
- 7 老版吉祥彩
- 8 电竞竞猜手机的
- 9 365彩官网