- 1
- 2
- 3
- 4
- 5
Hopper架构
资料介绍
一、Hopper架构概述
Hopper架构是英伟达（NVIDIA）推出的GPU架构，是安培（Ampere）架构的继任者，命名来源于计算机领域著名女科学家格蕾丝·穆雷·霍珀（Grace Murray Hopper），主要面向高性能计算（HPC）与AI加速场景，于2022年3月GTC大会正式发布，首款基于Hopper架构的产品为NVIDIA H100 Tensor Core GPU，主打生成式AI大模型训练、科学计算、企业级推理等高密度计算任务。
二、Hopper架构的核心技术特性
（一）第四代Tensor Core
Hopper架构搭载的第四代Tensor Core相比安培架构的第三代Tensor Core，FP8精度下AI训练性能提升了6倍，相比A100的FP16精度训练性能提升近3倍。第四代Tensor Core新增对FP8数据格式的原生支持，在保持计算精度符合AI训练要求的前提下，大幅降低了数据存储与传输的带宽占用，同时提升了单位晶体管的计算密度，尤其适配生成式大模型中注意力机制、矩阵乘法等核心计算环节，能够显著降低大模型训练的端到端延迟。
（二）第二代Transformer Engine
Transformer Engine是Hopper架构针对Transformer类模型（当前主流大语言模型、多模态模型的基础架构）推出的专属优化技术，升级到第二代后支持动态精度调整，能够根据模型不同层的计算需求自动在FP8与更高精度之间切换，在保证模型训练收敛性不损失的前提下，将Transformer模型的训练吞吐量提升最高达9倍。同时第二代Transformer Engine新增了对FP8推理的支持，推理性能相比A100的FP16推理提升最高可达3倍，大幅降低了大模型推理部署的成本。
部分文件列表
| 文件名 | 大小 |
| Hopper架构.docx | 15K |
最新上传
- 打赏
- 30日榜单
-
zhongshaoxiong 打赏3.00元 3天前
-
他山之石可攻玉 打赏60.00元 3天前
用户：烟雨
-
江岚 打赏210.00元 3天前
用户：潇潇江南
-
江岚 打赏100.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户：gsy幸运
-
21ic下载 打赏310.00元 3天前
用户：zhengdai
-
21ic下载 打赏310.00元 3天前
用户：江岚
-
21ic下载 打赏210.00元 3天前
用户：潇潇江南
-
21ic下载 打赏60.00元 3天前
用户：他山之石可攻玉
-
21ic下载 打赏60.00元 3天前
用户：烟雨
-
21ic下载 打赏60.00元 3天前
用户：w178191520
-
21ic下载 打赏60.00元 3天前
用户：w993263495
-
21ic下载 打赏110.00元 3天前
用户：xzxbybd
-
21ic下载 打赏60.00元 3天前
用户：zq_1943
-
21ic下载 打赏20.00元 3天前
用户：kk1957135547
-
21ic下载 打赏20.00元 3天前
用户：sun2152
-
21ic下载 打赏20.00元 3天前
用户：铁蛋锅
-
21ic下载 打赏20.00元 3天前
用户：xuzhen1
-
21ic下载 打赏20.00元 3天前
用户：w1966891335
-
21ic下载 打赏35.00元 3天前
用户：有理想666
-
21ic下载 打赏15.00元 3天前
用户：nuaanuaa111
-
21ic下载 打赏20.00元 3天前
用户：liqiang9090
-
21ic下载 打赏15.00元 3天前
用户：ningmengge
-
21ic下载 打赏10.00元 3天前
用户：mulanhk
-
21ic下载 打赏5.00元 3天前
用户：asys
-
21ic下载 打赏10.00元 3天前
用户：舞蹈荀彧
-
21ic小能手 打赏5.00元 3天前
资料：磁编码器开源方案
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
江岚 打赏20.00元 3天前
-
江岚 打赏50.00元 3天前
-
江岚 打赏20.00元 3天前
-
江岚 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏8.00元 3天前
-
21ic小能手 打赏8.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
tangyu1 打赏1.00元 3天前
-
jjjjkkkkk 打赏1.00元 3天前
全部评论(0)