推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

面向存算一体芯片的模拟计算阵列中存算一体芯片的蒙特卡洛贝叶斯神经网络加速器.docx

资料介绍

面向存算一体芯片的模拟计算阵列中存算一体芯片的蒙特卡洛贝叶斯神经网络加速器

摘要

贝叶斯神经网络(BNN)通过将权重和偏置建模为概率分布而非确定值,提供了不确定性量化的能力,在自动驾驶、医疗诊断等安全关键场景中具有重要意义。然而,BNN的蒙特卡洛(MC)采样推理需要执行多次前向传播,计算量是传统确定值神经网络的10-100倍,部署成本极高。本文针对存算一体芯片的模拟计算阵列,设计了一种面向BNN MC推理的加速器架构,通过将MC采样并行化映射到存算阵列中,利用RRAM器件的随机性天然生成采样权重,将MC推理的吞吐量提升10倍,能效比提升5倍。

一、贝叶斯神经网络的计算需求

1.1 BNN推理的计算特征

与传统神经网络不同,BNN的权重  服从概率分布 (后验分布),在推理时需要从后验分布中采样多组权重,对每组权重执行前向传播,最后对多次前向传播的结果进行平均,得到预测结果和不确定性估计。MC推理的计算量由采样次数  决定:当  时,计算量是传统推理的100倍。然而,MC推理具有天然的并行性——各次采样之间相互独立,可并行执行。

1.2 存算一体芯片的适配性

存算一体芯片的模拟计算阵列在执行矩阵乘加运算时具有高能效优势,且RRAM器件的随机性可被利用来生成贝叶斯采样。权重采样的随机性——RRAM器件的电导值在编程时存在固有的随机涨落,这一随机性可被利用来生成服从后验分布的权重样本。并行计算——MC采样的多次前向传播可在存算阵列的不同区域并行执行,充分利用阵列的并行计算能力。


部分文件列表

文件名 大小
面向存算一体芯片的模拟计算阵列中存算一体芯片的蒙特卡洛贝叶斯神经网络加速器.docx 38K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单
  • 21下载积分 打赏60.00元   3天前

    用户:gsy幸运

  • 21下载积分 打赏70.00元   3天前

    用户:铁蛋锅

  • 21下载积分 打赏65.00元   3天前

    用户:xzxbybd

  • 21下载积分 打赏60.00元   3天前

    用户:jh0355

  • 21下载积分 打赏60.00元   3天前

    用户:w178191520

  • 21下载积分 打赏20.00元   3天前

    用户:jh03551

  • 21下载积分 打赏20.00元   3天前

    用户:sun2152

  • 21下载积分 打赏20.00元   3天前

    用户:kk1957135547

  • 21下载积分 打赏25.00元   3天前

    用户:w1966891335

  • 21下载积分 打赏20.00元   3天前

    用户:xuzhen1

  • 21下载积分 打赏15.00元   3天前

    用户:x15580286248

  • 21下载积分 打赏25.00元   3天前

    用户:pcb

  • 21下载积分 打赏20.00元   3天前

    用户:bhacker

  • 21下载积分 打赏15.00元   3天前

    用户:liqiang9090

  • 21下载积分 打赏25.00元   3天前

    用户:有理想666

  • 21下载积分 打赏15.00元   3天前

    用户:godbox

  • 21下载积分 打赏15.00元   3天前

    用户:aetek

  • 21下载积分 打赏5.00元   3天前

    用户:mulanhk

  • 21下载积分 打赏5.00元   3天前

    用户:JuneLin61

推荐下载