推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

寒武纪NeuWare软件栈MLU架构的PyTorch原生适配与GLM-53-Flash Day0实践

更新时间:2026-10-09 20:33:35 大小:37K 上传用户:江岚查看TA发布的资源 标签:寒武纪NeuWareMLUPyTorchGLM-53-Flash 下载积分:2分 评价赚积分 (如何评价?) 打赏 收藏 评论(0) 举报

资料介绍

寒武纪NeuWare软件栈——MLU架构的PyTorch原生适配与GLM-5.3-Flash Day0实践

2026年9月 · 国产算力适配专题

寒武纪是国产AI芯片中仅次于华为昇腾的第二极。2026年H1营收59.96亿元(+108%),思元690量产,GLM-5.3-Flash发布当日即完成适配。本文分析寒武纪NeuWare软件栈的技术架构与适配能力。

一、NeuWare软件栈

1. 核心组件
1.1 NeuWare是寒武纪的AI开发平台,原生支持PyTorch、vLLM等主流AI框架。
1.2 MLA、MHC、MoE、MTP等适配基础设施开箱即用。
1.3 利用Triton的社区兼容性快速完成算子开发,降低适配工作量。

2. GLM-5.3-Flash适配实践
2.1 2026年8月26日GLM-5.3-Flash发布当天,寒武纪完成全栈适配。
2.2 针对GLM-5.3的线性注意力与稀疏注意力混合架构,寒武纪对IndexPool索引器完成Token粒度到Pool粒度的地址换算。
2.3 在Decode阶段对全历史Gather分块控制峰值;线性注意力以循环状态替代传统KV Cache,Prefill路径采用递推结构分块并行。


部分文件列表

文件名 大小
C03-寒武纪NeuWare软件栈MLU架构的PyTorch原生适配与GLM-53-Flash_Day0实践.docx 37K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单

推荐下载