推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

存算一体架构突破内存墙的技术路径.docx

资料介绍

存算一体架构:突破内存墙的技术路径

1 引言

存算一体(Processing-in-Memory, PIM)架构通过将计算单元嵌入存储阵列,在数据存储位置直接执行计算,从根本上消除数据搬运的能耗和延迟瓶颈。在AI大模型训练和推理中,数据搬运能耗占总能耗的60-80%,存算一体架构有望将能效比提升10-100倍。本章系统阐述存算一体技术的基本原理、主流架构和产业化进展。

2 内存墙问题

传统冯·诺依曼架构中,处理器与存储器分离,数据在两者之间频繁搬运。随着AI模型参数从数十亿增长至数万亿,内存墙问题日益严重:

1. 带宽瓶颈:处理器与内存之间的带宽增长速度远低于算力增长速度

2. 延迟瓶颈:内存访问延迟(~100ns)远高于处理器计算延迟(~1ns

3. 能耗瓶颈:数据搬运能耗占AI芯片总能耗的60-80%

4. 容量瓶颈:单颗GPUHBM容量(80-144GB)无法容纳大模型参数

3 存算一体分类

3.1 近存计算

近存计算(Near-Memory Computing)将计算逻辑靠近存储阵列,但仍在同一芯片或封装内。HBM-PIM(三星)和AI MemorySK海力士)是近存计算的代表产品,在DRAM Bank级集成计算单元,支持矩阵乘法等简单操作。


部分文件列表

文件名 大小
存算一体架构突破内存墙的技术路径.docx 38K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单

推荐下载