凯时AG

2026-07-06 19:58:03 设为首页 | 加入珍藏

HBM之父金正浩:AI实质是内存,,GPU真正使用率仅10%-30%

2026-07-06 19:58:03 宣布 泉源:非凡软件站 作者:李美泉 浏览:8190次

IT之家 7 月 6 日新闻,,被誉为“HBM 之父”的韩国科学手艺院(KAIST)电气系教授金正浩克日接受《东亚日报》采访时体现,,AI 的焦点竞争力正在从 GPU 转向内存。。 。。

金正浩以为 AI 的实质是内存,,GPU 在 AI 推理中的使用率远低于理论水平。。 。。AI 每次输出效果,,都必需先从 HBM 读取数据、传到 GPU 举行盘算,,再将效果写回内存。。 。。就算安排 100 万块 GPU,,真正用于盘算的时间也只有 10%-30%。。 。。

并且已往的 AI 主要集中在训练阶段,,因此 GPU 是决议性能的焦点。。 。。而着眼现在和未来,,AI 将进入推理时代,,此时真正能决议性能的,,是一次能处理几大都据、能以多快速率处理数据,,因此内存能力将直接决议 AI 性能。。 。。

虽然,,现在已经有 HBM 这种专门适配 AI 的高带宽内存方案。。 。。但随着 AI 迈入多模态化和 Agentic AI(署理式人工智能)泛起,,人们将越来越需要生涯视频、文档、恒久影象等海量冷数据。。 。。因此,,将 NAND 闪存像 HBM 一样堆叠的 HBF 手艺将在未来成为主流。。 。。金正浩更是展望,,10 年后 HBF 的市场需求将凌驾 HBM。。 。。

到了更远的未来,,HBS(高带宽 SRAM)将成为主流。。 。。这种手艺将接纳读写速率比 DRAM 快 1000 倍的 SRAM,,其构想包括在整片 12 英寸晶圆上铺设 SRAM、将容量提升至约 1600GB,,实现大容量高速数据处理。。 。。

别的金正浩设想,,未来的 AI 盘算机将演酿成一个重大的“三维修建”:HBM 将充当阛阓角色,,HBF 层相当于住宅区,,HBS 则肩负高速缓存功效。。 。。种种形态的 HBM、HBF、HBS 组合在一起,,给 GPU 供应数据,,形成约 100 层规模的 3D 复合架构。。 。。

IT之家注:金正浩恒久致力于高带宽内存(HBM)与 2.5D/3D 集成封装研究。。 。。他从 2010 年最先和 SK 海力士研发 HBM1,,并在去年加入 HBM4-HBM8 恒久生长蹊径图妄想,,

呼和浩特市12345政务服务便民热线:由于这个药品价钱没有被列入政府指导价或政府定价,,以是属于市场调理价,,可是差3000块钱的这种就可能有点不太正常。。 。。

责任编辑:林法湖    校对:陈景霖

今日热门

  1. 第二十二届文博会将启,,九大“展眼”让你逛展纵情不忧愁
  2. 四川什邡:向日葵花海引游人
  3. 取个包裹赚500元??????法院提醒:对兼职信息仔细甄别
  4. 中国飞机医院首次亮相中亚地区
  5. 郭艾伦喝豆汁喝出心情包
  6. 聚力澜湄绿能相助 云南能源集团亮相第十届南博会
  7. 自然钻石文化艺术沙龙举行 聚焦时间价值与传承属性
  8. 欢喜拉满!“苏嘟嘟”嘉年华南京站精彩上演
  9. 焦点访谈丨扎根民生一线 他们用初心温暖民心
  10. 重庆对13个区县宣布地质灾难黄色预警

相关推荐

【网站地图】