您现在的位置是:首页 > 技术资料 > Tensor Core 技术解析
推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

Tensor Core 技术解析

更新时间:2026-06-17 08:07:39 大小:13K 上传用户:潇潇江南查看TA发布的资源 标签:Tensor Core 下载积分:2分 评价赚积分 (如何评价?) 打赏 收藏 评论(0) 举报

资料介绍

基本定义

Tensor Core(张量核心)是NVIDIA推出的专门用于加速张量运算的专用处理核心,首次出现在2017年发布的Volta架构GPU中,主要目标是加速深度学习中的矩阵运算,尤其是神经网络训练与推理过程。

发展历程

第一代:Volta架构(GV100

2017年推出,首次引入Tensor Core,支持FP16半精度矩阵乘法累加运算,每个Tensor Core每个周期可以完成64个浮点乘积累加(MMA)运算,一块GV100拥有640Tensor Core,峰值算力达到125 TFLOPS

第二代:Turing架构

2018年推出,新增对INT8整数精度的支持,同时支持FP16INT8混合精度运算,推理性能相比第一代提升一倍,一块RTX 2080 Ti拥有576Tensor Core,峰值INT8算力达到1345 TOPS

第三代:Ampere架构

2020年推出,这一代Tensor Core做了重大升级,新增对TF32Tensor Float 32)精度的支持,同时支持FP64双精度张量运算,每个Tensor Core每个周期可以完成1024FMA运算,一块A100拥有432Tensor Core,峰值TF32算力达到156 TFLOPSFP16算力达到312 TFLOPS,相比Volta架构提升了超过20倍。

第四代:Hopper架构

2022年推出,升级为第四代Tensor Core,新增对FP8精度的支持,结合新的MMA指令格式,在Transformer模型推理和训练上实现了大幅性能提升,一块H100拥有528Tensor Core,峰值FP8算力达到3958 TFLOPS,相比Ampere架构FP8性能提升约6倍。


部分文件列表

文件名 大小
Tensor_Core_技术解析.docx 13K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单

推荐下载