龙擎空天重磅发布《LQAPU智能体处理器技术架构白皮书》,重定义智能体计算范式

来源:爱集微 #龙擎空天# #白皮书#
5631

11月13日,龙擎空天(上海)智能科技有限公司在上海隆重举行发布会,正式对外发布《LQAPU智能体处理器技术架构白皮书》(以下简称白皮书)。LQAPU(LQ Agent Processor Unit)是公司提出的面向智能体工作负载的软硬件协同架构。随着AI应用从内容生成向多步骤任务执行拓展,白皮书将优化视角从单次模型推理延伸至计算、上下文、任务调度与工具执行的系统协同,为端侧与边缘侧智能应用提出新的设计思路。发布会现场,龙擎空天CTO陈雷与软件开发及解决方案VP王歆分别从硬件架构与软件生态维度,对该白皮书进行了深度解读。

对龙擎空天而言,LQAPU承载的是面向智能体计算的平台战略。公司希望以可编程AI芯片为计算基础,通过运行时、模型服务和开发接口,将底层计算能力与上层任务需求连接起来。LQ7000是这一体系的首代产品实践,后续产品与软件建设将围绕任务执行、状态管理和应用部署持续演进,逐步形成从芯片到软件、再到行业应用的协同能力。

计算对象之变:从模型推理扩展到完整任务

随着智能体应用发展,AI计算的优化视角正在从指令、线程、张量和算子图,进一步扩展到模型请求与完整任务。白皮书指出,在真实应用中,一项任务往往包含多轮推理、资料检索、工具调用和环境反馈,其完成质量与效率由多个环节共同决定。因此,在持续提升模型计算性能的同时,还需要关注不同环节之间的依赖、等待与状态变化。

“我们过去评价AI往往看每秒生成多少Token,但智能体完成一项任务,包含了大量的排队、数据准备、工具调用等待与状态重建。”龙擎空天CTO陈雷在解读中强调,模型计算只是冰山一角,水面上看得见的是模型计算,水面下则是复杂的调度与状态管理。基于此,LQAPU架构的设计思路并非替代CPU、GPU或NPU,而是将任务级信息传递到计算、内存与运行时,让底层硬件围绕完整的任务进行协同优化。

以“整理会议纪要”为例,模型生成摘要仅是其中一环。完整流程还包括音频接收与转写、相关资料检索、决定事项与待确认事项的区分,以及经人员核对后生成行动清单。这些步骤涉及不同模型、数据访问、状态记录和工具调用。其中,语音识别、语言理解与知识检索承担不同职责,对计算资源、内存和响应时间的要求也不同。平台需要根据任务依赖和资源条件,安排模型加载、驻留、切换与执行,并在不同环节之间传递可追踪的结果。提升算力能够加快部分计算,但完整任务的效率还取决于各环节如何衔接,因此需要在硬件、运行时和应用软件之间建立清晰的协作机制。

智能体应用对底层平台提出的新要求,不只是多运行几个模型。长时间存在的会话状态、交替发生的计算与工具等待,以及不同任务之间的资源竞争,会共同影响内存占用、模型切换和交互时延。处理器与系统接口需要向软件提供清晰的资源能力和执行反馈,软件也需要让底层感知任务的依赖、时限与资源需求。这种双向协同,是LQAPU讨论处理器架构的出发点。

1+5+1架构:软硬协同的智能体底座

针对模型持续更新、上下文占用资源、多任务竞争以及可靠执行等挑战,白皮书将LQAPU的总体功能架构概括为“1+5+1”:一项可编程计算基础、五项跨软硬件协同机制,以及一套软件平台。这一划分描述的是功能职责与协作关系,不对应固定数量的片内硬件模块。

1个计算基础:以可编程AI计算为核心,与CPU、内存及必要的异构处理资源协同,承载模型计算与相关数据处理。

5项核心机制:任务级执行与调度、上下文与记忆管理、结构化行动与工具调用、多模型与检索协同、状态连续性与可信执行。

1套软件平台:由编译工具链、模型运行时、Agent Runtime、AgentOS服务框架及开发接口共同构成,连接底层设备能力与上层智能体应用。

这一架构的重点,在于各项机制如何协同:计算、上下文与调度共同决定资源如何使用;任务图、工具执行与状态恢复共同决定一项工作能否可靠完成;可编程计算、多模型支持与软件接口,则共同决定平台能否持续适应应用变化。通过这些跨层协同,龙擎空天希望将底层计算能力转化为完整任务的执行能力。

上下文管理是其中一个关键环节。模型权重、推理缓存、会话记录与长期知识具有不同的访问频率和保存周期,需要分别确定驻留、复用与释放策略。在模型版本、数据格式和权限条件允许的情况下,复用已有状态可以减少重复装载与重建开销;及时释放不再需要的资源,则有助于为其他任务保留计算和存储空间。LQAPU因此将状态管理与资源调度联系起来,关注有限资源如何持续服务完整任务。

在计算实现上,白皮书主张兼顾可编程能力与专用加速:由硬件高效处理稳定、高频的计算原语,同时为模型和软件演进保留扩展空间。作为相关产品实践,LQ7000采用EE-DNA(Edge/End Diversity Neural Network Accelerator)异构计算架构,通过统一指令体系组织标量、向量与矩阵运算。

在任务组织上,白皮书讨论了双层调度方法:上层依据任务依赖、时限和数据就绪情况安排执行节点,下层结合计算资源、上下文及模型驻留状态选择执行时机,通过资源预算和适当的可让出点改善高优先级任务响应。具体抢占方式与粒度,则需结合设备能力及状态保存、恢复开销确定。

智能体任务并不始终处于模型计算状态。当一个任务等待检索结果或外部工具响应时,系统可以根据资源条件安排其他已就绪、已授权的计算,减少资源闲置。对于存在严格依赖或需要人工确认的步骤,则保留必要的等待边界。任务级调度由此将模型执行、外部等待和资源使用联系起来,在保证执行正确性的前提下,改善系统响应与资源利用效率。

在可编程计算、上下文管理和智能体运行系统等技术基础上,龙擎空天将创新重点放在面向端侧与边缘场景的跨层协同:如何组织任务、状态、模型和工具之间的关系,如何通过明确的软件接口落实到产品,以及如何用完整任务的表现验证实际收益。这一设计思路,可从任务导向、执行协同与系统扩展三个方面理解:

Agent Native(面向智能体任务):从任务需求出发组织计算与软件接口,将任务依赖、上下文生命周期、资源预算及执行反馈纳入设计,使模型计算更好地服务于多步骤任务。

Agent Control(任务执行协同):由软件负责规划与业务策略,Agent Runtime管理任务依赖、上下文和执行状态,驱动与设备队列组织计算资源。外部工具调用通过受控接口完成身份、权限与参数检查,使任务执行具备明确的职责边界和可追踪结果。

系统扩展:根据不同模型与任务的资源需求,采用适合的单芯片或多芯片系统配置,并通过互连、存储和软件协同组织计算资源。Chiplet及多Die扩展需要与具体产品配置相匹配,其实际效果取决于通信开销、数据分布和任务划分。

软件契约:规划归软件,执行归契约

“智能体要完成一个任务,软件必须从优化单次推理,转向管理完整的任务生命周期。”龙擎空天软件开发及解决方案VP王歆在软件层面解读时表示,LQAPU白皮书确立了一项核心软件契约:规划归软件,执行归契约。

在软件栈设计上,白皮书按照BSP与驱动、编译器与计算内核、模型运行时、Agent服务及SDK等层级组织功能。AgentOS定位于成熟操作系统之上的智能体服务与治理框架,负责会话、任务、工具权限及恢复等能力。针对受控行动,白皮书区分三道防线:首先检查生成指令与参数的结构是否合法,其次确认身份、权限及资源约束是否满足,最后结合业务前置条件、设备状态及必要的人工确认,判断动作能否执行。模型缓存、任务进度与外部动作结果,也需要分别管理。保存了会话,并不意味着业务操作已经成功;恢复了计算,也不意味着可以直接重复外部动作。例如,邮件发送后发生断连,系统需要先核对邮件是否已经发出,再决定后续处理,避免因重复执行产生额外影响。模型可以提出候选动作,但执行权限与结果确认由独立的控制机制负责。

除了架构设计,白皮书还强调,应在模型精度、吞吐量和生成速度等基础指标之外,补充面向完整任务的评价。重点包括任务完成与结果正确性、端到端时延、每成功任务能耗,以及重复执行一致性。其中,终态验证用于确认文件写入、业务提交等操作是否真正达到目标;pass^k用于观察同一任务在一致条件下重复执行时,能否连续成功。这样的评价方式,有助于把模型性能与实际应用效果联系起来。

对这些指标的比较,需要建立在一致且可复现的条件下。测试应明确任务集合、模型版本、精度配置、权限条件和目标结果,同时记录计算、检索、等待与恢复等阶段的表现。通过对照不同资源管理和调度策略,观察任务完成率、响应时延与能耗的变化,才能判断架构设计的实际收益,也让合作伙伴与客户能够复现和评估产品能力。

从AI PC、企业边缘设备到有限链路下的空天应用,不同场景都需要处理计算资源、数据管理、连接条件和任务可靠性之间的关系。LQAPU希望以可编程计算与清晰的系统接口提供可复用的架构基础,再根据具体场景的功耗、实时性和可靠性要求开展产品适配与验证。这也为龙擎空天“智算空天地”的布局提供了共同的技术出发点。

《LQAPU智能体处理器技术架构白皮书》的发布,系统阐述了龙擎空天面向智能体计算的设计思路与验证方法。围绕“计算可编程、状态可管理、任务可调度、执行可信赖”的目标,公司正以首代产品LQ7000及配套加速卡为基础,推进模型适配、软件工具链和应用方案建设,并与国芯科技、六联智能等伙伴开展产品与生态合作。

在生态建设上,龙擎空天将围绕模型适配、开发接口和部署工具持续投入,让合作伙伴能够在明确的平台能力之上开发应用,并让软件与行业经验随产品迭代不断积累。LQ7000及配套加速卡,则成为这套架构走向具体场景、接受客户验证的起点。

从单次推理到完整任务,智能体计算正在提出一道新的考题:模型能否给出答案之外,系统还要能够组织资源、管理状态,并将行动落实为可验证的结果。龙擎空天以LQAPU提出的,正是对这道考题的系统性回答——以可编程计算支撑模型演进,以软硬件协同服务任务执行,以产品和生态推进实际应用。

让模型的能力,成为系统办成事情的能力。 这是LQAPU白皮书贯穿始终的技术主张,也是龙擎空天布局智能体处理器的着力点。

责编: 爱集微
来源:爱集微 #龙擎空天# #白皮书#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...