凯时AG

2026-07-28 10:46:50 设为首页 | 加入珍藏

AI内存V-Die亮相:侧立放置DRAM吞吐540 tokens/s

2026-07-28 10:46:50 宣布 泉源:牛游戏网 作者:袁宜君 浏览:2887次

IT之家 7 月 11 日新闻 ,, , ,,,科技媒体 Tom's Hardware 昨日(7 月 10 日)宣布博文 ,, , ,,,报道称在 6 月召开的 IEEE / JSAP 超大规模集成电路手艺钻研会上 ,, , ,,,针对 AI 加速器的内存散热与带宽瓶颈 ,, , ,,,研究团队提出 V-Die 与 MOSAIC 两种 HBM 集成方案。。 。

IT之家注:高带宽内存(HBM)是面向高性能盘算与 AI 加速器的近封装内存手艺 ,, , ,,,通过多层 DRAM 堆叠 ,, , ,,,并借助超宽总线与处理器近距离互连 ,, , ,,,以较短数据路径提供极高带宽。。 。典范应用包括 GPU、AI 训练与推理加速器、超等盘算节点等高吞吐场景。。 。

图源:AMD

为了缓解 AI 加速器 HBM 内存散热与带宽瓶颈 ,, , ,,,韩国蔚山国立科学手艺院(UNIST)研究职员提出 V-Die 解决方案 ,, , ,,,而日本东京大学牵头团队提出 MOSAIC 两种解决方案。。 。

两者配合思绪是将 DRAM 芯片由古板向上堆叠 ,, , ,,,改为侧立放置 ,, , ,,,以缓解更高堆叠带来的散热压力。。 。

V-Die 竖直放置 DRAM Die 芯片 ,, , ,,,作废 TSV(硅通孔) ,, , ,,,改用每片裸片底边 I/O 毗连 ,, , ,,,并在相邻裸片间加入液冷通道。。 。

研究团队称 ,, , ,,,在与 HBM4 等容量比照下 ,, , ,,,V-Die 在 GPT-3 规模事情负载中抵达 540 tokens/s ,, , ,,,而 HBM4 为 296 tokens/s ,, , ,,,前者横跨 82.43%。。 。V-Die 底边毗连间距为 20 微米 ,, , ,,,毗连数目可达 HBM4 的 4 倍 ,, , ,,,内存读取时间下降 37%。。 。

在一组与 H100 级硬件匹配的 16 层堆叠仿真中 ,, , ,,,该方案将首 Token 时延降低 32% ,, , ,,,约 24 毫秒。。 。散热方面 ,, , ,,,团队称微流体冷却可将堆叠温度维持在约 45°C ,, , ,,,低于高密度 HBM 系统常见的 80°C 以上区间。。 。

MOSAIC 方案由东京大学牵头团队提出 ,, , ,,,重点在于提升侧立堆叠的可制造性。。 。该方案接纳正交裸片堆叠与无接触裸片互连 ,, , ,,,用微型感应线圈替换严酷瞄准的金属信号接触。。 。

研究职员称 ,, , ,,,该原型接口速率最高达 4 Gbps / 通道 ,, , ,,,并可在 DRAM-on-GPU 结构中实现 HBM4 级容量的 2 倍。。 。

另一组相关的 bump-MOSAIC 硬件演示在 ECTC 聚会披露 ,, , ,,,接纳 100 微米间距微凸点 ,, , ,,,X 射线 CT 验证堆叠瞄准误差控制在 6 微米以内。。 。研究团队称 ,, , ,,,该设置热导率抵达古板堆叠的 3 倍 ,, , ,,,并可特殊增添最高 30% 内存容量。。 。

襄城区市场羁系局于5月8日向徐先生作出的《举报处理效果见告书》显示 ,, , ,,,经核查 ,, , ,,,中艾公司未生产及开设网店销售被举报的产品 ,, , ,,,无举报涉嫌违法行为。。 。中艾公司曾将公司注册商标允许襄阳市樊城区的李某、王某伉俪二人使用 ,, , ,,,该局拟将案件线索移送襄阳市樊城区市场羁系局处理。。 。

责任编辑:蒋冠廷    校对:阮琳谦

今日热门

  1. 陕西发明10座生涯较完整汉墓 随葬器物组合富厚
  2. 2026陆家嘴论坛召开 上海离岸金融行动方案宣布
  3. 淮河流域怎样应对汛期大考? ???记者一线直击
  4. 中国共产党党员总数达10128.6万名
  5. 王毅同利比里亚外长谈判:愿同利方用足用好零关税政策盈利
  6. 黎家盈博士时期导师回忆:她事情审慎、体贴同事 ,, , ,,,面临大宗数据她会耐心剖析
  7. 日本炸鸡店一锅油重复用66年
  8. 美官员未回应详细对台军售时间表
  9. 【E法偕行 赣鄱红韵】红色土地上的“法”式答卷
  10. 香港市民看神23发射激动到叫破喉咙

相关推荐

【网站地图】