- 1
- 2
- 3
- 4
- 5
大模型推理实测之昆仑芯P800与英伟达H20在671B-MoE模型推理中端到端对比.docx
资料介绍
大模型推理实测之昆仑芯P800与英伟达H20在671B MoE模型推理中的端到端对比
测试背景
昆仑芯P800（FP16 345 TFLOPS，96GB HBM3，带宽2.4TB/s）与英伟达H20（FP16 148 TFLOPS，96GB HBM3，带宽4.0TB/s）是2026年国产与进口AI芯片在推理市场的代表产品。本节基于公开实测数据进行端到端对比。
推理性能对比
昆仑芯P800在DeepSeek-R1 671B推理中实现2,437 tok/s的吞吐量；Qwen3-8B推理中达112.8 tok/s，超越A100的89.6 tok/s；Llama2-13B长文本生成中H20为412 tok/s。
从单位成本效率看，昆仑芯P800同等算力成本仅为国际大厂的60%；推理成本降至几元/百万token，而H20方案成本通常在数十元级别。招商银行采用P800集群优化智能客服后，推理成本降低95%。
集群部署能力对比
昆仑芯P800支持3.2万卡部署，有效训练率99.5%，万卡集群线性加速比96%；H20理论支持5万卡集群。P800通过硬件级vXPU虚拟化，单卡可拆分为32个实例，资源利用率提升至85%。
H20的优势在轻量化推理场景：原生CUDA生态、成熟TensorRT工具链；而P800在万卡集群稳定性和多租户隔离方面更具优势。
部分文件列表
| 文件名 | 大小 |
| 259-大模型推理实测之昆仑芯P800与英伟达H20在671B-MoE模型推理中端到端对比.docx | 37K |
最新上传
- 打赏
- 30日榜单
-
21ic小能手 打赏5.00元 2天前
资料：磁编码器开源方案
-
21ic小能手 打赏5.00元 2天前
-
21ic小能手 打赏5.00元 2天前
-
江岚 打赏20.00元 3天前
-
江岚 打赏50.00元 3天前
-
江岚 打赏20.00元 3天前
-
江岚 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏8.00元 3天前
-
21ic小能手 打赏8.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
tangyu1 打赏1.00元 3天前
-
jjjjkkkkk 打赏1.00元 3天前
-
emlimei 打赏1.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏3.00元 3天前
资料：低频功率放大器的设计.
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：51单片机数字频率计
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
13573902396 打赏1.00元 3天前
-
21下载积分 打赏310.00元 3天前
用户：江岚
-
21下载积分 打赏310.00元 3天前
用户：潇潇江南
-
21下载积分 打赏60.00元 3天前
用户：他山之石可攻玉
-
21下载积分 打赏310.00元 3天前
用户：小猫做电路
-
21下载积分 打赏210.00元 3天前
用户：zhengdai
-
21下载积分 打赏210.00元 3天前
用户：w993263495
-
21下载积分 打赏10.00元 3天前
用户：烟雨
-
21下载积分 打赏60.00元 3天前
用户：gsy幸运
-
21下载积分 打赏70.00元 3天前
用户：铁蛋锅
-
21下载积分 打赏65.00元 3天前
用户：xzxbybd
-
21下载积分 打赏60.00元 3天前
用户：jh0355
-
21下载积分 打赏60.00元 3天前
用户：w178191520
-
21下载积分 打赏20.00元 3天前
用户：jh03551
-
21下载积分 打赏20.00元 3天前
用户：sun2152
全部评论(0)