- 1
- 2
- 3
- 4
- 5
面向AI推理的存算一体芯片中数据复用与数据流调度策略.docx
资料介绍
面向AI推理的存算一体芯片中数据复用与数据流调度策略
——从输入固定到权重固定的数据流优化与能量效率分析
引言
在存算一体芯片中，数据流（Dataflow）策略决定了数据在存储阵列和计算单元之间的移动方式，直接影响芯片的计算性能和能效。不同的神经网络模型和层类型需要不同的数据流策略——卷积层适合权重固定数据流，全连接层适合输入固定数据流，而Transformer层需要混合数据流。数据复用通过减少数据搬运次数，降低能耗和延迟。本文系统分析面向AI推理的存算一体芯片中数据复用与数据流调度策略，从输入固定到权重固定的数据流优化方案。
数据流的基本类型
输入固定数据流
输入固定数据流（Input-Stationary, IS）将输入数据固定在计算单元中：
1. 工作原理：输入数据加载到计算单元后，在计算多个权重时保持不变，权重数据流经计算单元。
2. 适用场景：适用于输入数据复用率高的场景，如全连接层和卷积层。
3. 能量特征：输入数据搬运能耗低，权重数据搬运能耗高。
权重固定数据流
权重固定数据流（Weight-Stationary, WS）将权重数据固定在计算单元中：
1. 工作原理：权重加载到存储阵列后，在计算多个输入数据时保持不变，输入数据流经存储阵列。
2. 适用场景：适用于权重复用率高的场景，如推理过程中的权重固定。
3. 能量特征：权重数据搬运能耗低，输入数据搬运能耗高。
部分文件列表
| 文件名 | 大小 |
| 面向AI推理的存算一体芯片中数据复用与数据流调度策略.docx | 39K |
最新上传
- 打赏
- 30日榜单
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户：江岚
-
21ic下载 打赏310.00元 3天前
用户：mulanhk
-
21ic下载 打赏320.00元 3天前
用户：jh03551
-
21ic下载 打赏220.00元 3天前
用户：jh0355
-
21ic下载 打赏210.00元 3天前
用户：潇潇江南
-
21ic下载 打赏210.00元 3天前
用户：小猫做电路
-
21ic下载 打赏60.00元 3天前
用户：gsy幸运
-
21ic下载 打赏60.00元 3天前
用户：zhengdai
-
21ic下载 打赏60.00元 3天前
用户：lanmukk
-
21ic下载 打赏60.00元 3天前
用户：烟雨
-
21ic下载 打赏20.00元 3天前
用户：w993263495
-
21ic下载 打赏30.00元 3天前
用户：sun2152
-
21ic下载 打赏20.00元 3天前
用户：w178191520
-
21ic下载 打赏20.00元 3天前
用户：liqiang9090
-
21ic下载 打赏20.00元 3天前
用户：xuzhen1
-
21ic下载 打赏35.00元 3天前
用户：有理想666
-
21ic下载 打赏15.00元 3天前
用户：w1966891335
-
21ic下载 打赏15.00元 3天前
用户：x15580286248
-
21ic下载 打赏25.00元 3天前
用户：qiufeng0299
-
21ic下载 打赏15.00元 3天前
用户：kk1957135547
-
21ic下载 打赏10.00元 3天前
用户：qingsong08
-
21ic下载 打赏10.00元 3天前
用户：电工老刘
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
ZENGYIBIN 打赏1.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：STM32的数字万用表
-
21ic小能手 打赏5.00元 3天前
-
kuangwy 打赏1.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：触控无极台灯控制方案
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：51单片机的汽车雨刷器
全部评论(0)