凯时AG

HBM之父金正浩:AI实质是内存,, ,GPU真正使用率仅10%-30%

作者:谢佩尧
宣布时间:2026-07-07 09:03:54
阅读量:7699

HBM之父金正浩:AI实质是内存,, ,GPU真正使用率仅10%-30%

IT之家 7 月 6 日新闻,, ,被誉为“HBM 之父”的韩国科学手艺院(KAIST)电气系教授金正浩克日接受《东亚日报》采访时体现,, ,AI 的焦点竞争力正在从 GPU 转向内存。。。。。

金正浩以为 AI 的实质是内存,, ,GPU 在 AI 推理中的使用率远低于理论水平。。。。。AI 每次输出效果,, ,都必需先从 HBM 读取数据、传到 GPU 举行盘算,, ,再将效果写回内存。。。。。就算安排 100 万块 GPU,, ,真正用于盘算的时间也只有 10%-30%。。。。。

并且已往的 AI 主要集中在训练阶段,, ,因此 GPU 是决议性能的焦点。。。。。而着眼现在和未来,, ,AI 将进入推理时代,, ,此时真正能决议性能的,, ,是一次能处理几大都据、能以多快速率处理数据,, ,因此内存能力将直接决议 AI 性能。。。。。

虽然,, ,现在已经有 HBM 这种专门适配 AI 的高带宽内存方案。。。。。但随着 AI 迈入多模态化和 Agentic AI(署理式人工智能)泛起,, ,人们将越来越需要生涯视频、文档、恒久影象等海量冷数据。。。。。因此,, ,将 NAND 闪存像 HBM 一样堆叠的 HBF 手艺将在未来成为主流。。。。。金正浩更是展望,, ,10 年后 HBF 的市场需求将凌驾 HBM。。。。。

到了更远的未来,, ,HBS(高带宽 SRAM)将成为主流。。。。。这种手艺将接纳读写速率比 DRAM 快 1000 倍的 SRAM,, ,其构想包括在整片 12 英寸晶圆上铺设 SRAM、将容量提升至约 1600GB,, ,实现大容量高速数据处理。。。。。

别的金正浩设想,, ,未来的 AI 盘算机将演酿成一个重大的“三维修建”:HBM 将充当阛阓角色,, ,HBF 层相当于住宅区,, ,HBS 则肩负高速缓存功效。。。。。种种形态的 HBM、HBF、HBS 组合在一起,, ,给 GPU 供应数据,, ,形成约 100 层规模的 3D 复合架构。。。。。

IT之家注:金正浩恒久致力于高带宽内存(HBM)与 2.5D/3D 集成封装研究。。。。。他从 2010 年最先和 SK 海力士研发 HBM1,, ,并在去年加入 HBM4-HBM8 恒久生长蹊径图妄想,, ,

 

文章点评

未盘问到任何数据!

揭晓谈论

◎接待加入讨论,, ,请在这里揭晓您的看法、交流您的看法。。。。。

最新文章

热门文章

随机推荐

【网站地图】