- 1
- 2
- 3
- 4
- 5
原生稀疏化动态计算优化.docx
资料介绍
原生稀疏化动态计算优化
一、原生稀疏化动态计算的核心概念与应用背景
1.1 稀疏数据与稀疏计算的定义
稀疏数据指的是在数据空间中，绝大多数元素的值为零或者无效，仅有少量非零元素的数据集。在人工智能、科学计算、图形处理、推荐系统等众多领域，稀疏数据都是非常常见的数据形式：比如推荐系统中的用户-物品交互矩阵，绝大多数用户只会对极少数商品产生交互，矩阵整体稀疏度往往可以达到99%以上；在深度学习的模型剪枝流程中，经过结构化或非结构化剪枝后的权重张量也会呈现高度稀疏的特性；在自然语言处理的one-hot编码、计算机视觉的目标检测候选框输出中，稀疏结构也普遍存在。
稀疏化计算就是针对稀疏数据的结构特性，仅对非零元素执行运算，跳过零元素或无效元素的计算过程，以此降低计算量、减少内存占用，提升计算和存储效率。传统的稠密计算方案会对所有元素（包括大量零元素）执行存储和计算，会造成严重的资源浪费，而稀疏化计算通过只处理有效数据，能够充分挖掘稀疏数据的结构优势，在相同的硬件资源下支撑更大规模的模型或者更快的推理训练速度。
1.2 原生稀疏化动态计算的提出背景
当前主流的稀疏化计算方案可以分为两类：一类是离线稀疏化方案，在训练或者推理开始前就完成稀疏结构的确定，将非零元素提前抽取出来存储为固定的稀疏格式，计算过程中稀疏结构保持不变。这类方案实现简单，但存在一个明显的缺陷：在很多动态场景下，稀疏结构本身会随着计算过程不断变化，离线固定的稀疏结构无法匹配动态变化的有效元素分布，要么会保留大量已经变为无效的元素造成冗余，要么会遗漏新增的有效元素导致计算错误。另一类是依赖专用硬件加速的稀疏计算方案，虽然能够实现动态稀疏的处理，但对硬件要求较高，成本高昂，无法在通用CPU、GPU等现有硬件上直接获得较好的性能提升。
部分文件列表
| 文件名 | 大小 |
| 原生稀疏化动态计算优化.docx | 19K |
最新上传
- 打赏
- 30日榜单
-
21ic小能手 打赏5.00元 14小时前
-
21ic小能手 打赏3.00元 16小时前
资料：低频功率放大器的设计.
-
21ic小能手 打赏3.00元 16小时前
-
21ic小能手 打赏3.00元 16小时前
-
21ic小能手 打赏3.00元 16小时前
-
21ic小能手 打赏3.00元 16小时前
-
21ic小能手 打赏5.00元 3天前
资料：51单片机数字频率计
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
13573902396 打赏1.00元 3天前
-
21下载积分 打赏310.00元 3天前
用户：江岚
-
21下载积分 打赏310.00元 3天前
用户：潇潇江南
-
21下载积分 打赏60.00元 3天前
用户：他山之石可攻玉
-
21下载积分 打赏310.00元 3天前
用户：小猫做电路
-
21下载积分 打赏210.00元 3天前
用户：zhengdai
-
21下载积分 打赏210.00元 3天前
用户：w993263495
-
21下载积分 打赏10.00元 3天前
用户：烟雨
-
21下载积分 打赏60.00元 3天前
用户：gsy幸运
-
21下载积分 打赏70.00元 3天前
用户：铁蛋锅
-
21下载积分 打赏65.00元 3天前
用户：xzxbybd
-
21下载积分 打赏60.00元 3天前
用户：jh0355
-
21下载积分 打赏60.00元 3天前
用户：w178191520
-
21下载积分 打赏20.00元 3天前
用户：jh03551
-
21下载积分 打赏20.00元 3天前
用户：sun2152
-
21下载积分 打赏20.00元 3天前
用户：kk1957135547
-
21下载积分 打赏25.00元 3天前
用户：w1966891335
-
21下载积分 打赏20.00元 3天前
用户：xuzhen1
-
21下载积分 打赏15.00元 3天前
用户：x15580286248
-
21下载积分 打赏25.00元 3天前
用户：pcb
-
21下载积分 打赏20.00元 3天前
用户：bhacker
-
21下载积分 打赏15.00元 3天前
用户：liqiang9090
-
21下载积分 打赏25.00元 3天前
用户：有理想666
-
21下载积分 打赏15.00元 3天前
用户：godbox
-
21下载积分 打赏15.00元 3天前
用户：aetek
-
21下载积分 打赏5.00元 3天前
用户：mulanhk
-
21下载积分 打赏5.00元 3天前
用户：JuneLin61
-
21下载积分 打赏5.00元 3天前
用户：ccc6188
-
21下载积分 打赏5.00元 3天前
用户：木集盒
-
21ic小能手 打赏5.00元 3天前
全部评论(0)