- 1
- 2
- 3
- 4
- 5
Tensor Core 技术解析
资料介绍
基本定义
Tensor Core(张量核心)是NVIDIA推出的专门用于加速张量运算的专用处理核心,首次出现在2017年发布的Volta架构GPU中,主要目标是加速深度学习中的矩阵运算,尤其是神经网络训练与推理过程。
发展历程
第一代:Volta架构(GV100)
2017年推出,首次引入Tensor Core,支持FP16半精度矩阵乘法累加运算,每个Tensor Core每个周期可以完成64个浮点乘积累加(MMA)运算,一块GV100拥有640个Tensor Core,峰值算力达到125 TFLOPS。
第二代:Turing架构
2018年推出,新增对INT8整数精度的支持,同时支持FP16和INT8混合精度运算,推理性能相比第一代提升一倍,一块RTX 2080 Ti拥有576个Tensor Core,峰值INT8算力达到1345 TOPS。
第三代:Ampere架构
2020年推出,这一代Tensor Core做了重大升级,新增对TF32(Tensor Float 32)精度的支持,同时支持FP64双精度张量运算,每个Tensor Core每个周期可以完成1024个FMA运算,一块A100拥有432个Tensor Core,峰值TF32算力达到156 TFLOPS,FP16算力达到312 TFLOPS,相比Volta架构提升了超过20倍。
第四代:Hopper架构
2022年推出,升级为第四代Tensor Core,新增对FP8精度的支持,结合新的MMA指令格式,在Transformer模型推理和训练上实现了大幅性能提升,一块H100拥有528个Tensor Core,峰值FP8算力达到3958 TFLOPS,相比Ampere架构FP8性能提升约6倍。
部分文件列表
| 文件名 | 大小 |
| Tensor_Core_技术解析.docx | 13K |
最新上传
-
21ic小能手 打赏5.00元 1天前
-
21ic小能手 打赏5.00元 1天前
-
21ic小能手 打赏5.00元 1天前
-
21ic小能手 打赏5.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户:gsy幸运
-
21ic下载 打赏320.00元 3天前
用户:jh03551
-
21ic下载 打赏320.00元 3天前
用户:jh0355
-
21ic下载 打赏210.00元 3天前
用户:zhengdai
-
21ic下载 打赏210.00元 3天前
用户:江岚
-
21ic下载 打赏210.00元 3天前
用户:潇潇江南
-
21ic下载 打赏60.00元 3天前
用户:小猫做电路
-
21ic下载 打赏60.00元 3天前
用户:烟雨
-
21ic下载 打赏60.00元 3天前
用户:mulanhk
-
21ic下载 打赏60.00元 3天前
用户:w993263495
-
21ic下载 打赏20.00元 3天前
用户:w178191520
-
21ic下载 打赏20.00元 3天前
用户:liqiang9090
-
21ic下载 打赏20.00元 3天前
用户:kk1957135547
-
21ic下载 打赏20.00元 3天前
用户:sun2152
-
21ic下载 打赏20.00元 3天前
用户:w1966891335
-
21ic下载 打赏15.00元 3天前
用户:xuzhen1
-
21ic下载 打赏15.00元 3天前
用户:x15580286248
-
21ic下载 打赏10.00元 3天前
用户:wjr111
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:STM32密码锁仿真
-
x1707 打赏1.00元 3天前
-
lanmukk 打赏60.00元 3天前
-
lanmukk 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户:江岚
-
21ic下载 打赏310.00元 3天前
用户:mulanhk
-
21ic下载 打赏310.00元 3天前
用户:潇潇江南
-
21ic下载 打赏210.00元 3天前
用户:小猫做电路
-
21ic下载 打赏210.00元 3天前
用户:gsy幸运
-
21ic下载 打赏210.00元 3天前
用户:zhengdai
-
21ic下载 打赏140.00元 3天前
用户:jh0355
-
21ic下载 打赏130.00元 3天前
用户:jh03551
-
21ic下载 打赏60.00元 3天前
用户:lanmukk
-
21ic下载 打赏60.00元 3天前
用户:kkkopj
-
21ic下载 打赏70.00元 3天前
用户:cooldog123pp
-
21ic下载 打赏20.00元 3天前
用户:烟雨




全部评论(0)