推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

神经网络处理器核心架构与设计.docx

资料介绍

神经网络处理器(NPU

一、NPU的基本定义与核心定位

神经网络处理器(Neural Processing UnitNPU,也被称为神经网络加速单元或AI处理器,是一种专门针对神经网络计算任务进行架构设计的专用处理器(ASIC),核心目标是加速人工智能领域的深度学习推理与训练任务,区别于传统的通用计算芯片如CPUGPU

CPU擅长通用逻辑处理,依靠复杂的控制单元与缓存架构应对多样化的串行任务,但是并行计算能力弱,处理大规模神经网络矩阵运算时效率极低;GPU依靠大量简单计算核心实现了强并行计算能力,可以同时处理海量同构数据,在深度学习训练领域得到了广泛应用,但是GPU的控制逻辑冗余,功耗与成本较高,不适合在端侧设备大规模部署;而NPU通过对神经网络计算特征的针对性优化,去除了通用计算的冗余设计,在计算密度、能耗比方面拥有远超CPUGPU的表现,是目前AI算力落地的核心载体。

二、NPU的核心设计特点

不同于通用处理器的冯·诺依曼架构,多数NPU采用了**脉动阵列(Systolic Array**或近存计算(Near-Memory Computing)架构设计,解决了传统架构中内存墙问题,也就是存储访问速度远低于计算速度导致的算力浪费问题。

(一)针对性的计算架构优化

神经网络的核心计算是乘加累积运算(MAC),占深度学习总计算量的90%以上,NPU将大量MAC计算单元进行规整排列,配合专门的数据流设计,让数据在计算单元之间流动时直接完成运算,减少对外部内存的访问次数。例如谷歌TPU(张量处理单元,本质是面向数据中心的NPU)采用的脉动阵列架构,输入数据从阵列的一端依次进入每个计算单元,每一步都和存储在单元内的权重完成乘法运算,并将结果累加传递给下一个单元,整个过程不需要频繁访问外部DRAM,大大降低了访问延迟与功耗。


部分文件列表

文件名 大小
神经网络处理器核心架构与设计.docx 16K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单
  • 13573902396 打赏1.00元   17小时前

    资料:MATLAB语言常用算法程序集MATLAB源码220个.zip

  • 21下载积分 打赏310.00元   3天前

    用户:江岚

  • 21下载积分 打赏310.00元   3天前

    用户:潇潇江南

  • 21下载积分 打赏60.00元   3天前

    用户:他山之石可攻玉

  • 21下载积分 打赏310.00元   3天前

    用户:小猫做电路

  • 21下载积分 打赏210.00元   3天前

    用户:zhengdai

  • 21下载积分 打赏210.00元   3天前

    用户:w993263495

  • 21下载积分 打赏10.00元   3天前

    用户:烟雨

  • 21下载积分 打赏60.00元   3天前

    用户:gsy幸运

  • 21下载积分 打赏70.00元   3天前

    用户:铁蛋锅

  • 21下载积分 打赏65.00元   3天前

    用户:xzxbybd

  • 21下载积分 打赏60.00元   3天前

    用户:jh0355

  • 21下载积分 打赏60.00元   3天前

    用户:w178191520

  • 21下载积分 打赏20.00元   3天前

    用户:jh03551

  • 21下载积分 打赏20.00元   3天前

    用户:sun2152

  • 21下载积分 打赏20.00元   3天前

    用户:kk1957135547

  • 21下载积分 打赏25.00元   3天前

    用户:w1966891335

  • 21下载积分 打赏20.00元   3天前

    用户:xuzhen1

  • 21下载积分 打赏15.00元   3天前

    用户:x15580286248

  • 21下载积分 打赏25.00元   3天前

    用户:pcb

  • 21下载积分 打赏20.00元   3天前

    用户:bhacker

推荐下载