- 1
- 2
- 3
- 4
- 5
Multi-Instance GPU (MIG)技术解析
资料介绍
一、技术概述
Multi-Instance GPU，即多实例GPU，简称MIG，是NVIDIA推出的一项GPU虚拟化技术，该技术能够将一颗物理GPU切割为多个独立的逻辑GPU实例，供不同的工作负载同时使用，从而大幅提升GPU资源的利用率，降低AI开发、深度学习推理等场景的部署成本。
二、技术核心原理
MIG的核心设计基于GPU硬件架构的原生支持，从NVIDIA安培架构（Ampere）开始，该功能被正式集成进GPU芯片中，和传统基于软件层的GPU虚拟化方案不同，MIG实现了硬件层面的资源隔离。
每个GPU被切割后生成的MIG实例，都拥有独立的以下资源单元：
1. 计算核心：独立分配的SM（流式多处理器）单元，保证不同实例的计算任务不会互相抢占
2. 缓存与显存：专属的L2缓存分区和固定分配的显存空间，数据访问不会出现跨实例干扰
3. 内存带宽：每个实例分配到固定比例的显存带宽，避免高负载任务挤压其他工作负载的带宽资源
4. 运行控制单元：独立的指令调度和错误处理机制，一个实例发生故障不会影响同一GPU上的其他实例
在切割粒度上，不同规格的GPU支持不同的最大实例数：以A100 80GB为例，最多可以切割出7个MIG实例，常见的切割配置包括1x7GB、3x14GB、2x24GB等多种组合，用户可以根据实际工作负载的资源需求灵活选择。
部分文件列表
| 文件名 | 大小 |
| Multi-Instance_GPU_(MIG)技术解析.docx | 15K |
最新上传
- 打赏
- 30日榜单
-
13806677280 打赏1.00元 1天前
-
21下载积分 打赏20.00元 3天前
用户：white工
-
Lzhf918@ 打赏10.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户：mulanhk
-
21ic下载 打赏310.00元 3天前
用户：lanmukk
-
21ic下载 打赏310.00元 3天前
用户：zhengdai
-
21ic下载 打赏240.00元 3天前
用户：江岚
-
21ic下载 打赏240.00元 3天前
用户：潇潇江南
-
21ic下载 打赏210.00元 3天前
用户：gsy幸运
-
21ic下载 打赏70.00元 3天前
用户：小猫做电路
-
21ic下载 打赏120.00元 3天前
用户：jh0355
-
21ic下载 打赏110.00元 3天前
用户：jh03551
-
21ic下载 打赏70.00元 3天前
用户：liqiang9090
-
21ic下载 打赏45.00元 3天前
用户：有理想666
-
21ic下载 打赏20.00元 3天前
用户：w178191520
-
21ic下载 打赏40.00元 3天前
用户：烟雨
-
21ic下载 打赏20.00元 3天前
用户：eaglexiong
-
21ic下载 打赏20.00元 3天前
用户：sun2152
-
21ic下载 打赏20.00元 3天前
用户：xuzhen1
-
21ic下载 打赏15.00元 3天前
用户：kk1957135547
-
21ic下载 打赏15.00元 3天前
用户：w993263495
-
21ic下载 打赏15.00元 3天前
用户：x15580286248
-
21ic下载 打赏15.00元 3天前
用户：w1966891335
-
小猫做电路 打赏830.00元 3天前
-
gsy幸运 打赏880.00元 3天前
-
zhengdai 打赏730.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：STM32智能交流电检测
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏15.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
全部评论(0)