寒序科技发布uHBM与uLPU推理架构

来源:爱集微 #寒序科技#
5133

近日,国内MRAM存算一体推理芯片企业寒序科技正式对外发布uHBM与uLPU推理计算架构,首次完整披露从芯片裸片、单颗芯片、模组到机柜的全链条产品布局,完善其AI推理硬件产业化体系。

据公开披露信息,本次发布的uHBM架构将MRAM存储单元与矩阵向量计算单元集成在同一裸片内,实现模型权重片内驻留与片内运算。该架构可减少大模型推理过程中的数据频繁搬运,适配大语言模型Decode阶段算力需求,首代架构片内读取带宽设计值达24TB/s。

依托uHBM底层技术,寒序科技搭建面向大模型推理场景的uLPU推理计算架构。公司同步公布完整产品迭代路径,产品形态依次覆盖Compute-Memory Die、uLPU芯片、计算模组、2U Tray单元及整机Rack机柜,形成软硬件一体化的层级化产品矩阵。

技术层面,寒序科技采用MRAM与SRAM混合存储架构,结合磁性流式处理技术优化推理数据流。相较于传统方案,该技术路径可提升存储密度、降低运行功耗,适配云端大模型推理的高稳定、高算力需求。目前,企业首代工程产品已进入流片前收敛阶段。

寒序科技聚焦MRAM存算一体AI推理芯片赛道,持续攻坚大模型推理“内存墙”行业痛点。本次架构与产品路线公开,进一步明确了公司技术迭代与硬件落地节奏,推进国产自主推理芯片技术与产业化进程。

(校对/李正操)

责编: 李正操
来源:爱集微 #寒序科技#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...