推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

面向存算一体芯片的模拟计算阵列中存算一体芯片的车载存算一体芯片的稀疏计算加速与动态门控.docx

资料介绍

面向存算一体芯片的模拟计算阵列中存算一体芯片的车载存算一体芯片的稀疏计算加速与动态门控

摘要

神经网络模型在训练后呈现出显著的稀疏性——通过剪枝(Pruning)和ReLU激活函数,大量权重和激活值为零。在传统计算架构中,这些零值仍然参与计算,浪费了算力和功耗。本文针对车载存算一体芯片的能效优化需求,设计了一种面向存算阵列的稀疏计算加速架构,通过零值跳过检测电路和动态门控机制,在存算阵列中自动跳过零值输入的计算,将有效算力利用率提升至90%以上。在80%稀疏度的模型中,芯片功耗降低60%,推理速度提升2倍,为车载存算一体芯片提供了高能效的稀疏计算加速架构。

一、稀疏性的来源

1.1 权重剪枝

通过结构化剪枝技术,可以将神经网络中不重要的权重连接移除,在保持模型精度损失小于1%的前提下,将权重稀疏度提升至80%以上。

1.2 激活值稀疏性

ReLU激活函数将负值映射为零,在典型推理过程中,隐藏层的激活值稀疏度达到40-60%,深层网络的稀疏度更高。

二、稀疏计算加速架构

2.1 零值跳过检测

在存算阵列的每个输入通道中嵌入零值检测电路,当检测到输入数据为零时,关闭对应计算单元的偏置电路和时钟,跳过该次计算。零值检测的延迟为0.5ns,功耗为0.01pJ/次。

2.2 动态门控

在存算阵列的列级设置动态门控电路,当某列的所有输入都为零时,关闭整列的电源和时钟,进一步降低功耗。


部分文件列表

文件名 大小
面向存算一体芯片的模拟计算阵列中存算一体芯片的车载存算一体芯片的稀疏计算加速与动态门控.docx 37K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单
  • 21下载积分 打赏60.00元   3天前

    用户:gsy幸运

  • 21下载积分 打赏70.00元   3天前

    用户:铁蛋锅

  • 21下载积分 打赏65.00元   3天前

    用户:xzxbybd

  • 21下载积分 打赏60.00元   3天前

    用户:jh0355

  • 21下载积分 打赏60.00元   3天前

    用户:w178191520

  • 21下载积分 打赏20.00元   3天前

    用户:jh03551

  • 21下载积分 打赏20.00元   3天前

    用户:sun2152

  • 21下载积分 打赏20.00元   3天前

    用户:kk1957135547

  • 21下载积分 打赏25.00元   3天前

    用户:w1966891335

  • 21下载积分 打赏20.00元   3天前

    用户:xuzhen1

  • 21下载积分 打赏15.00元   3天前

    用户:x15580286248

  • 21下载积分 打赏25.00元   3天前

    用户:pcb

  • 21下载积分 打赏20.00元   3天前

    用户:bhacker

  • 21下载积分 打赏15.00元   3天前

    用户:liqiang9090

  • 21下载积分 打赏25.00元   3天前

    用户:有理想666

  • 21下载积分 打赏15.00元   3天前

    用户:godbox

  • 21下载积分 打赏15.00元   3天前

    用户:aetek

  • 21下载积分 打赏5.00元   3天前

    用户:mulanhk

  • 21下载积分 打赏5.00元   3天前

    用户:JuneLin61

推荐下载