推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

车规计算芯片的神经网络加速器稀疏计算技术.docx

资料介绍

车规计算芯片的神经网络加速器稀疏计算技术

一、稀疏性的来源与分类

神经网络中的稀疏性源自多种因素。激活值稀疏性——ReLU激活函数将负值输出置为零,导致中间层激活值中约40%至60%为零。权重值稀疏性——经过剪枝后的模型权重中大量接近零的值被直接置为零,结构化剪枝可达到50%至90%的稀疏度。梯度稀疏性——训练过程中反向传播的梯度矩阵中多数值极小。在推理场景中,主要利用激活值稀疏性和权重值稀疏性加速NPU计算。

稀疏性按模式分为 非结构化稀疏 和 结构化稀疏。非结构化稀疏不施加约束,权重矩阵或激活值张量中任意位置的零值可被跳过,最大化压缩率但硬件实现困难。结构化稀疏引入约束——如2:4结构化稀疏(每连续4个权重中最多2个非零)、块稀疏(固定大小的块内允许任意稀疏模式)和通道稀疏(去除整个输出通道)。结构化稀疏的规则模式大大简化了硬件实现,是2026年车规NPU的首选方案。

二、稀疏硬件加速架构

实现稀疏加速的NPU需要在传统MAC阵列基础上增加稀疏感知的数据路径。稀疏编码器 在数据加载阶段检测输入激活值或权重中的零值,生成非零值的坐标索引和数值列表——仅将非零数据传输到MAC阵列中执行运算。MAC阵列中的每个PE需要支持 零值跳过模式——当接收到零值时,PE内部旁路乘累加操作,仅传递部分和到下一级。


部分文件列表

文件名 大小
66-车规计算芯片的神经网络加速器稀疏计算技术.docx 38K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单
  • 21下载积分 打赏60.00元   3天前

    用户:gsy幸运

  • 21下载积分 打赏70.00元   3天前

    用户:铁蛋锅

  • 21下载积分 打赏65.00元   3天前

    用户:xzxbybd

  • 21下载积分 打赏60.00元   3天前

    用户:jh0355

  • 21下载积分 打赏60.00元   3天前

    用户:w178191520

  • 21下载积分 打赏20.00元   3天前

    用户:jh03551

  • 21下载积分 打赏20.00元   3天前

    用户:sun2152

  • 21下载积分 打赏20.00元   3天前

    用户:kk1957135547

  • 21下载积分 打赏25.00元   3天前

    用户:w1966891335

  • 21下载积分 打赏20.00元   3天前

    用户:xuzhen1

  • 21下载积分 打赏15.00元   3天前

    用户:x15580286248

  • 21下载积分 打赏25.00元   3天前

    用户:pcb

  • 21下载积分 打赏20.00元   3天前

    用户:bhacker

  • 21下载积分 打赏15.00元   3天前

    用户:liqiang9090

  • 21下载积分 打赏25.00元   3天前

    用户:有理想666

  • 21下载积分 打赏15.00元   3天前

    用户:godbox

  • 21下载积分 打赏15.00元   3天前

    用户:aetek

  • 21下载积分 打赏5.00元   3天前

    用户:mulanhk

  • 21下载积分 打赏5.00元   3天前

    用户:JuneLin61

推荐下载