推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

存算一体架构突破内存墙的技术路径.docx

资料介绍

存算一体架构:突破内存墙的技术路径

1 引言

存算一体(Processing-in-Memory, PIM)架构通过将计算单元嵌入存储阵列,在数据存储位置直接执行计算,从根本上消除数据搬运的能耗和延迟瓶颈。在AI大模型训练和推理中,数据搬运能耗占总能耗的60-80%,存算一体架构有望将能效比提升10-100倍。本章系统阐述存算一体技术的基本原理、主流架构和产业化进展。

2 内存墙问题

传统冯·诺依曼架构中,处理器与存储器分离,数据在两者之间频繁搬运。随着AI模型参数从数十亿增长至数万亿,内存墙问题日益严重:

1. 带宽瓶颈:处理器与内存之间的带宽增长速度远低于算力增长速度

2. 延迟瓶颈:内存访问延迟(~100ns)远高于处理器计算延迟(~1ns)

3. 能耗瓶颈:数据搬运能耗占AI芯片总能耗的60-80%

4. 容量瓶颈:单颗GPU的HBM容量(80-144GB)无法容纳大模型参数

3 存算一体分类

3.1 近存计算

近存计算(Near-Memory Computing)将计算逻辑靠近存储阵列,但仍在同一芯片或封装内。HBM-PIM(三星)和AI Memory(SK海力士)是近存计算的代表产品,在DRAM Bank级集成计算单元,支持矩阵乘法等简单操作。


部分文件列表

文件名 大小
存算一体架构突破内存墙的技术路径.docx 38K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单
  • 他山之石可攻玉 打赏60.00元   16小时前

    用户:烟雨

  • 江岚 打赏210.00元   16小时前

    用户:潇潇江南

  • 江岚 打赏100.00元   16小时前

    资料:边缘计算与算力网络.docx

  • 21ic下载 打赏310.00元   18小时前

    用户:gsy幸运

  • 21ic下载 打赏310.00元   18小时前

    用户:zhengdai

  • 21ic下载 打赏310.00元   18小时前

    用户:江岚

  • 21ic下载 打赏210.00元   18小时前

    用户:潇潇江南

  • 21ic下载 打赏60.00元   18小时前

    用户:他山之石可攻玉

  • 21ic下载 打赏60.00元   18小时前

    用户:烟雨

  • 21ic下载 打赏60.00元   18小时前

    用户:w178191520

  • 21ic下载 打赏60.00元   18小时前

    用户:w993263495

  • 21ic下载 打赏110.00元   18小时前

    用户:xzxbybd

  • 21ic下载 打赏60.00元   18小时前

    用户:zq_1943

  • 21ic下载 打赏20.00元   18小时前

    用户:kk1957135547

  • 21ic下载 打赏20.00元   19小时前

    用户:sun2152

  • 21ic下载 打赏20.00元   19小时前

    用户:铁蛋锅

  • 21ic下载 打赏20.00元   19小时前

    用户:xuzhen1

  • 21ic下载 打赏20.00元   19小时前

    用户:w1966891335

  • 21ic下载 打赏35.00元   19小时前

    用户:有理想666

  • 21ic下载 打赏15.00元   19小时前

    用户:nuaanuaa111

  • 21ic下载 打赏20.00元   19小时前

    用户:liqiang9090

推荐下载