推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

大模型推理实测之中星微星光智能五号XPU芯片5W功耗运行16B大模型端侧推理性能分析.docx

更新时间:2026-10-09 20:35:05 大小:37K 上传用户:潇潇江南查看TA发布的资源 标签:大模型推理端侧AI星光智能五号XPU芯片低功耗 下载积分:2分 评价赚积分 (如何评价?) 打赏 收藏 评论(0) 举报

资料介绍

大模型推理实测之中星微星光智能五号XPU芯片5W功耗运行16B大模型端侧推理性能分析

测试背景

2026年端侧AI芯片市场规模预计突破8661亿元,端侧AI渗透率超54%。中星微技术星光智能五号基于自主多核异构XPU架构,是我国首枚全自主可控、可单芯片同时运行通用语言大模型和视觉大模型的嵌入式AI芯片。

单芯片可同时运行通用语言大模型和视觉大模型。星元智能体已覆盖城市治理超300种场景,基于该芯片已在河南安阳、青岛、兰州、乌鲁木齐、大同等地完成技术验证或即将落地应用。

综上所述

星光智能五号在5W功耗内运行16B大模型,作为我国首枚全自主可控嵌入式AI芯片,单芯片支持语言+视觉双模态,8颗联合可支撑671B满血版推理。在政务、公共安全等对数据安全有刚性要求的场景中具有独特价值。


部分文件列表

文件名 大小
279-大模型推理实测之中星微星光智能五号XPU芯片5W功耗运行16B大模型端侧推理性能分析.docx 37K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单

推荐下载