推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

大模型推理实测之国产GPU推理能效比实测SRAM路线vs传统HBM路线优势分析.docx

更新时间:2026-10-08 21:52:02 大小:37K 上传用户:江岚查看TA发布的资源 标签:大模型推理国产GPU能效比SRAMHBM 下载积分:2分 评价赚积分 (如何评价?) 打赏 收藏 评论(0) 举报

资料介绍

大模型推理实测之国产GPU推理能效比实测:SRAM路线vs传统HBM路线优势分析

测试背景

推理场景的能效比(TOPS/W)直接决定了数据中心运营成本。国产三条技术路线在能效比上呈现显著差异。本节对比SRAM推理专用路线与HBM传统路线的能效实测数据。

SRAM路线的能效原理

推理瓶颈在显存带宽而非算力。传统HBM方案每次推理需经HBM→计算单元→HBM往返,能效损失大。曲速Polaris-H将权重关键部分驻留在片上,550MB的片上SRAM配合30TB/s片内带宽,大幅减少片外DRAM访问。

综上所述

SRAM推理专用路线在能效比上具有理论优势,550MB片上SRAM配合30TB/s片内带宽可大幅减少片外DRAM访问。但昇腾910B在HBM路线中凭借达芬奇架构的优化,实测能效比领先于寒武纪和海光方案。随着推理需求占比持续提升(2026年超66%),能效比正成为芯片选型的关键指标。


部分文件列表

文件名 大小
267-大模型推理实测之国产GPU推理能效比实测SRAM路线vs传统HBM路线优势分析.docx 37K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单

推荐下载