- 1
- 2
- 3
- 4
- 5
GPU共享内存技术解析.docx
资料介绍
一、什么是GPU共享内存
GPU共享内存是GPU存储层次结构中位于寄存器和全局内存之间的高速片上存储单元,属于可编程控制的高速缓存,也被称为片上共享内存。和GPU硬件自动管理的一级缓存不同,共享内存可以由程序员通过编程显式控制分配与访问,因此能更精准地适配不同计算任务的访存需求,在并行计算中起到关键的性能加速作用。
从硬件架构层面来看,GPU采用流式多处理器(SM)为核心计算单元,每个SM都会配备一块独立的固定大小的共享内存,供该SM内所有并行执行的线程块(Thread Block)共同使用。同一线程块内的不同线程可以通过共享内存交换数据,无需经过速度更慢的全局内存,从而大幅降低访存延迟,提升整体计算吞吐量。
二、GPU共享内存的技术特性
存储层次中的定位
GPU存储系统从快到慢依次为:寄存器 > 共享内存/L1缓存 > L2缓存 > 全局显存 > 主机端内存,共享内存的访问延迟通常仅为全局显存的1/100到1/10,带宽比全局显存高一个数量级以上,是SM内部的核心高速数据交换节点。
空间划分特性
每个SM的共享内存是独立划分的,不同SM之间的共享内存无法直接访问,同一个GPU卡上的多个SM的共享内存总容量为单SM共享内存容量乘以SM数量。以NVIDIA Ampere架构的A100 GPU为例,每个SM配备48KB的共享内存,总计108个SM,整卡共享内存总容量约为5.06MB。部分架构支持共享内存和L1缓存容量的动态划分,用户可以根据任务需求分配更多空间给共享内存或是L1缓存。
部分文件列表
| 文件名 | 大小 |
| GPU共享内存技术解析.docx | 15K |
最新上传
-
21ic下载 打赏310.00元 1天前
用户:江岚
-
21ic下载 打赏310.00元 1天前
用户:mulanhk
-
21ic下载 打赏320.00元 1天前
用户:jh03551
-
21ic下载 打赏220.00元 1天前
用户:jh0355
-
21ic下载 打赏210.00元 1天前
用户:潇潇江南
-
21ic下载 打赏210.00元 1天前
用户:小猫做电路
-
21ic下载 打赏60.00元 1天前
用户:gsy幸运
-
21ic下载 打赏60.00元 1天前
用户:zhengdai
-
21ic下载 打赏60.00元 1天前
用户:lanmukk
-
21ic下载 打赏60.00元 1天前
用户:烟雨
-
21ic下载 打赏20.00元 1天前
用户:w993263495
-
21ic下载 打赏30.00元 1天前
用户:sun2152
-
21ic下载 打赏20.00元 1天前
用户:w178191520
-
21ic下载 打赏20.00元 1天前
用户:liqiang9090
-
21ic下载 打赏20.00元 1天前
用户:xuzhen1
-
21ic下载 打赏35.00元 1天前
用户:有理想666
-
21ic下载 打赏15.00元 1天前
用户:w1966891335
-
21ic下载 打赏15.00元 1天前
用户:x15580286248
-
21ic下载 打赏25.00元 1天前
用户:qiufeng0299
-
21ic下载 打赏15.00元 1天前
用户:kk1957135547
-
21ic下载 打赏10.00元 1天前
用户:qingsong08
-
21ic下载 打赏10.00元 1天前
用户:电工老刘
-
21ic小能手 打赏5.00元 2天前
-
21ic小能手 打赏5.00元 2天前
-
21ic小能手 打赏5.00元 2天前
-
ZENGYIBIN 打赏1.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:STM32的数字万用表
-
21ic小能手 打赏5.00元 3天前
-
kuangwy 打赏1.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:触控无极台灯控制方案
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:51单片机的汽车雨刷器
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前




全部评论(0)