云天励飞:自研芯片DeepEdge10可承载百亿级大模型运算

来源:爱集微 #云天励飞#
8629

近日,云天励飞在互动平台表示,公司Deep Edge 10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。

云天励飞还表示,公司Deep Edge10 系列推理卡已经适配了包括云天天书、通义千问、百川智能、以及 Llama2/3 等在内的近十个主流大模型。

当前,AI 从云端大模型将逐渐向端侧发展的趋势逐渐明朗。边缘 AI 需综合考虑端侧客户对实时性、安全性、隐私性的需求。云天励飞 Deep Edge 系列推理卡已经适配了包括云天天书、通义千问、百川智能、以及 Llama2/3 等在内的近十个主流大模型,可实现性能更强的轻量级边缘智能设备并支持边缘智能计算加速卡,满足 AI 解决方案在更靠近数据源头的用户现场灵活部署的需求,通过芯片、加速卡、边缘盒子、服务器等多形态应用于智能计算中心大模型推理、机器人、智慧泊车、全息路口方案及城市治理等,并逐步向智能硬件进行布局。同时,云天励飞通过岍丞技术,进入华为、荣耀、OPPO、VIVO、安克、boAt、Noise 等终端品牌供应链,开始探索 AI 在智能家居、智能穿戴场景的应用,并持续探索边缘 AI 的商用场景。

责编: 邓文标
来源:爱集微 #云天励飞#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...