来源 :开普云2026-10-29
近日，开普云（股票代码：688228.SH）算法系统团队“面向复杂推理的国产算力高性能支撑软件研发及应用”项目入选东莞市科技人才创新创业项目。
项目面向大模型复杂推理与智能体应用需求，围绕推理算法、系统调度、国产算力工具链及应用支撑开展研发，推动国产算力与大模型软件协同优化。
此前，公司已牵头承担广东省重点领域研发计划“新一代人工智能”重大专项——“基于国产算力的边缘计算一体机研发及应用”项目，“开普云复杂推理大模型”项目入围工信部人工智能产业及赋能新型工业化创新任务揭榜挂帅名单。此次入选，将进一步深化公司在国产算力适配、复杂推理与软硬件协同方面的研发积累，推动相关能力向AI一体机和智算云服务转化。
复杂推理对国产算力提出新要求
大模型应用正从单轮问答向多步骤任务处理演进。以行业分析为例，系统需要综合多份材料，检索相关知识，对信息进行分析，并在任务执行过程中调用工具、验证中间结果。
这类任务通常涉及较长的输入内容、多轮交互和复杂推理过程，对模型部署、资源调度和推理稳定性提出了更高要求。随着上下文增长，模型推理所需的缓存也会增加，给存储容量和数据传输带来压力。同时，不同国产芯片在计算架构、存储层级和软件接口方面存在差异，模型适配与性能优化需要结合硬件特性开展。
针对上述问题，项目按照“算法—系统—工具链—应用”的技术路线，研究推理过程优化、计算与存储协同调度、模型编译与量化适配等技术，为复杂推理任务提供支撑。
存算协同支撑超大模型部署
超大模型部署需要统筹模型权重、运行状态和计算资源。在一体机资源条件下，如何组织模型数据、协调不同存储层级并支持多卡并行执行，是实现模型稳定运行的关键。
围绕这些问题，团队研究模型权重切分与分层装载，协同管理显存、内存和存储资源，推进模型加载、推理执行、缓存管理与服务接口集成。在已有超大模型部署验证基础上，团队持续研究更大规模模型的部署与运行方法。
面向长文档处理、多轮交互等长上下文场景，团队开展推理缓存复用、分层存储和动态管理研究，并探索预填充与解码阶段的协同调度，提升计算和存储资源的利用效率。
软硬协同提升推理效能
围绕国产芯片的架构特性，团队开展模型编译、混合精度、关键算子和运行时优化，研究模型计算过程与硬件能力的匹配方法，在模型效果与推理效率之间寻求平衡。
在推理加速方面，团队探索候选生成与验证过程的协同优化，降低相关计算开销。在集群层面，团队开展国产算力超节点软硬件联合评测，分析模型运行、卡间通信、缓存传输和服务调度等环节的性能表现，为后续优化提供依据。
针对复杂推理中的逻辑偏差，项目还将研究推理轨迹校验与动态修正，并探索多智能体协同验证，以增强推理过程的稳定性和结果可信度。
产品融合推动成果转化
开普云持续推进“AI基础设施＋智能体＋智慧应用”战略，已形成开悟密盒、开悟魔盒等AI一体机产品，以及智能体平台和算力服务平台。
项目将依托现有产品体系，推进推理软件与一体机、推理中台及智算云服务融合，开展端侧适配、本地化部署与集群在线服务的协同优化，并结合知识问答、数据分析和业务辅助决策等场景开展应用验证。
未来，开普云将持续深化国产算力适配与复杂推理技术研发，推动软件能力与行业需求结合，完善面向大模型和智能体应用的基础支撑体系。