新智元报道
一醒觉来,,,,,,谷歌突然就掏出了一张王炸!
据The Information独家爆料,,,,,,谷歌正在研发一款代号「Frozen v2」的神秘服务器芯片——把Gemini模子的部分底层架构,,,,,,永世蚀刻进硅片。。
不是跑在芯片上,,,,,,是长在芯片里。。
加入项目的谷歌员工预计,,,,,,按每瓦特能处理的Token数目算,,,,,,这款芯片将比谷歌最新一代TPU高效6到10倍。。安排时间,,,,,,最快2028年。。
新闻一出,,,,,,Alphabet股价周一应声上涨3.7%,,,,,,一扫前几周的阴霾。。
「冻结」一个模子
Frozen这个名字,,,,,,就是字面意思:把模子「冻」进硅片。。
这事有多激进??????不管是英伟达GPU照旧谷歌TPU,,,,,,实质上都是通用芯片——什么模子都能跑。。
这听起来很无邪,,,,,,但价钱也很大:芯片在运行时必需做海量的实时决议,,,,,,一直地搬运数据,,,,,,重复盘问该往哪走、该怎么算。。
就像一个什么菜都能做的后厨,,,,,,每做一道菜都得现翻菜谱、现找工具、现调火候。。效率可想而知。。
Frozen v2则只为Gemini一个模子而生。。
它把针对Gemini的要害决议路径直接内建进电路——芯片不必再「想」该怎么走,,,,,,由于路已经浇铸在硅片里了。。
要走的方法更少,,,,,,要搬的数据更少,,,,,,要做的决议更少。。相当于给一道菜专门砌了一个灶台,,,,,,灶眼巨细、锅具位置、火候档位,,,,,,所有量身定制。。
省下来的每一步冗余,,,,,,都酿成实打实的能效。。
着实,,,,,,这个想法早有前身。。最初的Frozen芯片由Google DeepMind首席科学家Jeff Dean主导,,,,,,思绪更离谱:直接把模子权重烧进芯片。。
权重是什么??????就是决议模子怎么回覆问题的那套焦点参数。。
但谁人方案被弃捐了——一旦权重烧死,,,,,,芯片就只能服务某个特定版本的Gemini,,,,,,模子一更新,,,,,,芯片就报废,,,,,,生命周期短得离谱。。
Frozen v2是折中版:不烧权重,,,,,,只固化架构。。底层的盘算蓝图刻死,,,,,,但权重还能更新。。
这意味着只要Gemini的架构不大改,,,,,,芯片就能一直用,,,,,,新版本的参数照样灌得进去。。
不过,,,,,,谷歌仍在内部权衡,,,,,,究竟把几多工具锁进硅片——锁得越多,,,,,,效率越高,,,,,,但无邪性也越差。。这个分寸,,,,,,就是整个项目最要害的工程判断。。
算力荒,,,,,,逼出来的
谷歌为什么要下这步险棋??????
谜底很简朴,,,,,,也很残酷:算力真的不敷用了。。
不是「有点主要」那种不敷用,,,,,,是「送上门的钱都不赚了」那种不敷用。。
算力欠缺已经在谷歌内部引发强烈矛盾,,,,,,Google Cloud被迫最先拒绝外部客户的订单——在商业公司里,,,,,,这险些是最极端的信号。。
6月,,,,,,谷歌签下了一纸条约:每月向SpaceX支付9.2亿美元,,,,,,租用11万张英伟达GPU的算力,,,,,,条约一直签到2029年。。
一家全球最大的云盘算公司,,,,,,居然要向一家火箭公司租算力——光是这个画面,,,,,,就足以说明AI军备竞赛已经疯狂到什么田地。。
谷歌并不孤苦。。
全行业都在往推理芯片上疯狂押注:SambaNova、d-Matrix这样的首创公司在做,,,,,,OpenAI、微软也在做,,,,,,亚马逊有Trainium和Inferentia,,,,,,微软有Maia。。
英伟达自己都坐不住了——去年12月豪掷200亿美元,,,,,,拿下推理芯片公司Groq的手艺授权。。
所有人的目的只有一个:把每一瓦电,,,,,,榨出更多Token。。
而「把模子硬连线进芯片」这条路,,,,,,此前只有加拿大首创公司Taalas在走——它已从Quiet Capital、富达等投资方融资超2亿美元。。
现在,,,,,,谷歌亲自下场了。。
一场豪赌
但十倍能效,,,,,,不是白拿的。。价钱是两个字:僵化。。
只有后续世代的Gemini仍沿用芯片设计时的统一底层架构,,,,,,Frozen v2才华继续事情。。
换句话说,,,,,,谷歌是在赌——赌自己未来几年不需要大改Gemini的造法。。
从纯Transformer到MoE混淆专家,,,,,,从纯文本到多模态原生,,,,,,从麋集推理到希罕激活——模子架构的迭代速率,,,,,,堪比手机行业最疯狂的年月。。
谷歌自己也清晰这个风险。。以是Frozen v2不会做到TPU的产量规模,,,,,,更像一次有限度的试验:赌对了,,,,,,就是印钞机,,,,,,每瓦电多榨几倍Token,,,,,,数据中心省下来的电费和机柜都是纯利润;;;;赌错了,,,,,,就当交学费,,,,,,教工程师学会怎么造更专用的芯片,,,,,,为下一代积累履历。。
值得玩味的是时机。。就在上周,,,,,,彭博爆出Gemini 3.5 Pro因编程能力等多项指标不达标而三度延期。。
模子侧腹背受敌的谷歌,,,,,,突然把更多筹码推向了自己最深的那条护城河——芯片。。
从昔时自研TPU镌汰对英伟达的依赖,,,,,,到今天把模子直接焊死进硅片,,,,,,谷歌走的是统一条路的更深处:软硬件协同的止境,,,,,,是软硬件合体。。
AI的竞争最先拼物理。。
参考资料:
https://x.com/kimmonismus/status/2079193746944790666?s=20
https://castlecrypto.gg/news/alphabet-shares-rise-following-reports-of-ultra-efficient-ai-chip/
编辑:所罗门
历史与实践证实,,,,,,执政党的价值理念,,,,,,决议一国现代化的生长态度、生长蹊径、生长底色。。生齿规模重大的现代化、全体人民配合富足的现代化、物质文明和精神文明相协调的现代化、人与自然协调共生的现代化、走清静生长蹊径的现代化——中国式现代化五个方面的“中国特色”,,,,,,将为人民谋幸福、为民族谋再起、为天下谋大同有机统一,,,,,,开拓了一条前所未有的现代化新路。。