HBM之父金正浩:AI实质是内存,,,,,,GPU真正使用率仅10%-30%
IT之家 7 月 6 日新闻,,,,,,被誉为“HBM 之父”的韩国科学手艺院(KAIST)电气系教授金正浩克日接受《东亚日报》采访时体现,,,,,,AI 的焦点竞争力正在从 GPU 转向内存。。。。。
金正浩以为 AI 的实质是内存,,,,,,GPU 在 AI 推理中的使用率远低于理论水平。。。。。AI 每次输出效果,,,,,,都必需先从 HBM 读取数据、传到 GPU 举行盘算,,,,,,再将效果写回内存。。。。。就算安排 100 万块 GPU,,,,,,真正用于盘算的时间也只有 10%-30%。。。。。
并且已往的 AI 主要集中在训练阶段,,,,,,因此 GPU 是决议性能的焦点。。。。。而着眼现在和未来,,,,,,AI 将进入推理时代,,,,,,此时真正能决议性能的,,,,,,是一次能处理几大都据、能以多快速率处理数据,,,,,,因此内存能力将直接决议 AI 性能。。。。。
虽然,,,,,,现在已经有 HBM 这种专门适配 AI 的高带宽内存方案。。。。。但随着 AI 迈入多模态化和 Agentic AI(署理式人工智能)泛起,,,,,,人们将越来越需要生涯视频、文档、恒久影象等海量冷数据。。。。。因此,,,,,,将 NAND 闪存像 HBM 一样堆叠的 HBF 手艺将在未来成为主流。。。。。金正浩更是展望,,,,,,10 年后 HBF 的市场需求将凌驾 HBM。。。。。
到了更远的未来,,,,,,HBS(高带宽 SRAM)将成为主流。。。。。这种手艺将接纳读写速率比 DRAM 快 1000 倍的 SRAM,,,,,,其构想包括在整片 12 英寸晶圆上铺设 SRAM、将容量提升至约 1600GB,,,,,,实现大容量高速数据处理。。。。。
别的金正浩设想,,,,,,未来的 AI 盘算机将演酿成一个重大的“三维修建”:HBM 将充当阛阓角色,,,,,,HBF 层相当于住宅区,,,,,,HBS 则肩负高速缓存功效。。。。。种种形态的 HBM、HBF、HBS 组合在一起,,,,,,给 GPU 供应数据,,,,,,形成约 100 层规模的 3D 复合架构。。。。。
IT之家注:金正浩恒久致力于高带宽内存(HBM)与 2.5D/3D 集成封装研究。。。。。他从 2010 年最先和 SK 海力士研发 HBM1,,,,,,并在去年加入 HBM4-HBM8 恒久生长蹊径图妄想,,,,,,
@陈宜意:大富豪网站赌博事件,,,,,,河南南阳市市长路红卫被查@杨佩芳:江西拟新增一所大学
@曾冠宇:日本五大芯片装备商对华销售额下降
热门排行
- 1 单机游戏推存
- 2 中国华体足球网站官网
- 3 网投比较靠谱的大平台
- 4 彩32安卓
- 5 澳门新威斯尼斯人
- 6 彩客网电脑版下载安装包
- 7 游戏互娱官网
- 8 亚博买球nba
- 9 虎扑手机版