前言：2026年5月21日—5月23日，由中国电子工业标准化技术协会ITSS分会指导，中国电子工业标准化技术协会人工智能专业委员会、中国电子信息行业联合会DCMM金融行业社区技术委员会、DCMG和双态IT论坛主办的“2026第十六届双态IT用户大会”在重庆成功举办。
2026年5月22日，2026第十六届双态IT用户大会“从''宏观叙事''到''微观做事''，金融AI智能体和基础设施”主题会议圆满结束。本次会议由中国电子工业标准化技术协会ITSS分会指导，中国电子工业标准化技术协会人工智能专业委员会、中国电子信息行业联合会DCMM金融行业社区技术委员会、DCMG和双态IT论坛主办，共有来自金融、央国企等行业的350余人到场出席。
海光信息专家带来《智能体时代AI基础设施架构与实践》主题分享，探讨金融AI应用发展对AI基础设施的要求，介绍了海光新型AI基础设施的架构和具体实践。他表示，智能体正成为提升金融生产力的新工具，驱动大模型应用范式升级，对算力芯片以及基础设施带来的新需求。算力底座需应对智能体规模化发展、模型参数增长、MoE稀疏化带来的计算和通信密集挑战，提出了高算力、高带宽、低延迟的要求。海光信息提出全链国产方案，包括CPU+GPU双芯战略、超节点多机高速互联、自研高速网络平台、DCU直通存储及KVCache优化，并内置安全机制保障Token机密计算。
以下为演讲实录全文：
今天我们探讨的话题是智能体时代AI基础设施的架构与实践，我主要从两部分展开分享：一是探讨金融AI应用发展趋势及对算力底座的要求，二是介绍新型AI基础设施架构及海光的实践成果。
01
金融AI应用发展对算力底座的要求
如果以1956年作为AI诞生日的话，AI今年70周年了。AI真正进入产业化是最近四年的时间。
2022年ChatGPT正式推出，第一次将生成模型推向了全世界，让大家对于AI的应用产生了无限的想象空间。2023年、2024年百模大战，国内多模态领域进展迅速，视频生成等AI应用的种类层出不穷。在2025年春节前后，开启了中国AI大模型中国特色的发展之路，使得AI应用进入普惠阶段，这个时候大家可以看到AI真正开始应用起来，不光是少数的公司，所有的企业从大到小都可以使用。又是一个春节，今年春节大家看到“养龙虾”成为一个热点，实际上它拓展了AI的应用范围，模型工程化落地能力持续增强，智能体从“能说”进化到“能做”，智能体应用爆发，智能体成为金融行业生产力提升的新工具。
那么智能体的发展到底对基础设施有什么要求，我们来看一下。
从抽象的角度来说，智能体实际上是以大模型作为大脑，在外围补齐了大模型本身不能实现的能力。
一是增加了记忆体。当你和大模型进行多次对话，它能够记录对话历史，使交互不再是“8秒记忆”。二是能够基于迭代进行自动化进化。三是工具调用，也就是它的手足。通过工具调用实现智能感知和动作执行，从而形成感知→推理→执行→反馈的闭环。
凭借这些能力，智能体可胜任长周期任务。你交给它一件事情，它不是只给你一个结论，而是可以反复执行、迭代，根据奖励机制进行优化。
闭环中，不同环节对智能的需求是不一样的，有的是非常聪明的高端推理，有的是快速响应。我认为这带来了大模型应用范式的变化：
大模型应用范式从单一dense模型转向“大尺寸MoE模型+小尺寸蒸馏模型+传统人工智能模型”。
·底层不光有MoE这种几千亿上万亿参数的大模型，还有传统的人工智能模型来解决感知问题。
·不同机构的实践路径趋同，都是基于开源模型或基座模型进行蒸馏、微调、强化学习，打造金融行业专属模型，服务于行业需求、建设企业特色及专属知识库，覆盖相关领域与任务。
总结来说，智能体和大模型的发展具有相互成就的乘数效应，离开谁都不能达到一个非常好的效果。
其次，Agent实际上对大模型产生了很高的要求。大模型需要支持长上下文，智能体需同时具备通用算力与智算算力的支撑。智能体+大模型的协同发展对基础架构提出了三方面的要求：
一是全栈贯通要求，实现从应用层到底层架构再到能源机房的全链路打通。二是系统性，硬件建设至少3～5年，硬件架构要有向前兼容性，能灵活适应AI的发展。三是全栈系统性，不仅包含计算，还包含存储、网络互连、液冷机房建设还有能源供应方面。
02
海光新型AI基础设施架构与实践
说到海光，我们是双芯公司，提供通用算力（CPU）和智算算力（DCU）的芯片设计与供应。
在CPU方面，我们有国家二级最高等级安全可靠认证，已经实现64核处理器，支持多路互联，支持国密安全、机密计算、自主计算。未来，我们还将提供具有更多核心的处理器，以应对智能体对更多核数CPU和更高性能的需求。
在GPU架构方面，支持MoE大模型长窗口，支持推理加速。通过持续演进来适配智能体对推理速度的需求。
对于下一步的基础底座，提出了三个要求：
一是多机互联并行架构，即一台机器干一台机器的事，八台机器能干七倍的活，类似这样的近乎线性扩展效率表现，才让多机互联具备真正的价值。
二是应用开发友好性，即统一内存管理。支持GPU之间的直接访问，大幅提升参数交换和专家路由等操作的效率。
三是高带宽低延迟，即金融行业处理所需的高带宽与低延时，需实现软件、框架、模型与硬件的全栈协同优化。
下面介绍一下海光在AI基础设施方面的架构原理和实践。
为满足前面提到的系统性要求，海光以GPU为核心开展基础架构的整体设计，涵盖计算、存储、网络、电力管理及软件统一集成，以保障智能体运行所需的性能、安全与效率。
同时因为不同机构的智能体规模有不同要求，我们的扩展性实际上要支持不同的扩展方式。小型机构，采用一机八卡满足大模型的推理；中型机构，需要更大算力规模，采用超节点部署方式；大型机构，采用超节点+横向扩展。此外，基础设施采用多地部署方式，“东数西算”多个枢纽节点，实现不同的部署规模和要求。
在具体实践上我们做了哪些呢？
一是全链自研打造超节点形态多机高速互联产品。为了满足国家自主可控产业长期可靠发展需要，我们全部采用国产的自研或合作伙伴的部件，为多机互联提供强劲算力支撑。其次，我们推出640卡的开放架构，会有兆瓦级的算力密度，可实现AI云服务。
二是scaleFabric超高速网络平台实现超节点的横向扩展，为未来更大规模AI应用打下基础。
三是大模型从训练、治理，再到推理过程中都需要高速大容量的存储架构。统一考虑这个需求，我们配套存储子架构实现DCU直通存储+KVCache Offload，提升推理效率。
四是海光AI基础设施软件栈，实现DCU Day0适配主流大模型。
五是提供对现有机房的改造方案来部署超节点。海光超节点支持在传统的风冷机房进行风液混合的改造后进行部署，无需机房液冷改造。
刚才谈到安全性本身很重要。如果AI服务上云，安全顾虑也随之而来，大家可能担忧训练的垂直模型和数据是否安全？Token计算结果是否加密？
海光做了什么呢？我们的双芯打通了CPU到DCU之间的安全通道，CPU的安全容器和DCU之间可以通过加密的数据进行传输。海光的安全机密计算机制完全能够消除大家的顾虑。
作为一家基础架构公司，海光深切理解智能体才是基础架构发挥作用的场景。我们提供DAP平台（智能体平台），即智能体的开发工具和部署工具，基于行业需求同频共振。海光AI基础架构既支持海光自身的DAP平台，也支持各行各业的智能体平台接入，构建共赢生态。
在智能体的基础架构方面，我们已在国有大行和全国性银行落地实践，覆盖营销、风控、管理等多个场景。
最后，经过简单的回顾，我们可以看出，智能体的发展是AI应用的未来方向。未来，海光将持续联合合作伙伴与客户开展技术研发，同时携手生态伙伴，深耕智能体及AI应用领域，助力各方数字化转型。
双态IT论坛成员单位