浪潮A9000 AI数据平台深度解析:Agent AI时代的存储架构重构
一、从"存数据"到"供数据":AI存储的范式转移
2026年4月17日,浪潮信息在江苏宜兴举办的"数海同舟"存储生态合作伙伴大会上正式发布AI数据平台A9000系列[1]。这并非一次简单的产品迭代,而是存储系统在AI大模型时代角色定位的根本性转变:从围绕CPU设计的"数据容器",进化为围绕GPU设计的"数据供给引擎"。
这一转变的背景是Agent AI从技术探索走向规模化生产应用。国家数据局数据显示,截至2026年3月,中国日均Token调用量已超过140万亿,较2024年初增长超过1000倍[2]。IDC预测,到2030年全球活跃智能体数量将从2025年的2860万激增至22.16亿[2]。当智能体从单轮对话演进到多任务协同、多轮交互和长上下文推理时,存储系统面对的不再是传统的块/文件/对象数据,而是KV Cache、向量嵌入、上下文状态等全新的AI原生数据范式。
传统的企业级存储架构诞生于通算时代,其数据通路围绕CPU设计:数据从磁盘经PCIe总线到内存,再由CPU处理后通过网卡或GPU互连发送到GPU。在AI推理场景中,这条路径的每一次中间复制和排队都在吞噬宝贵的GPU计算周期。浪潮信息存储产品线副总经理郭海峰将这一转变概括为:"过去的数据像一个湖,它是静态且等待挖掘的;AI时代,数据更像是源源不断流淌的河流。"[2]
核心洞察
AI推理场景中,GPU对数据的渴求是"贪婪"的——存储无法提供低时延、高带宽的数据供给,不仅造成昂贵的GPU算力资源闲置,还直接推高单Token推理成本。A9000的定位就是消除这条数据通路上的每一处瓶颈,让存储从"后端仓库"变为"前端供给线"。
二、AI原生并行架构:从底层重构数据通路
A9000系列的核心架构创新在于采用全用户态AI原生并行架构,从底层软件栈到硬件链路进行了全方位重构[1]。传统存储系统的I/O路径通常需要经过内核态系统调用、文件系统、块设备层、驱动程序等多个软件层次,每一次上下文切换都带来微秒级的时延开销。在传统企业应用中,这些开销可以忽略;但在AI推理场景中,首Token生成时间(TTFT)每减少一毫秒都直接影响用户体验和系统吞吐。
A9000通过全链路免锁(Lock-free)与零拷贝(Zero-copy)技术,将数据从SSD到GPU的路径缩短至极致[1]。免锁设计消除了多线程并发访问时的锁竞争开销,零拷贝则避免了数据在内核缓冲区和用户缓冲区之间的不必要拷贝。这两项技术的叠加效果是:单节点可提供160GB/s带宽、200万IOPS和百微秒级时延[2]。
在硬件层面,A9000采用GPU-Direct Storage(GDS)链路,实现端到端的延迟降低[2]。GDS是英伟达提出的一项关键技术,允许存储设备通过RDMA协议直接将数据写入GPU显存,绕过CPU和系统内存。在传统路径中,数据需要先从存储经PCIe到达系统内存,再经PCIe拷贝到GPU显存——这涉及两次PCIe传输和一次CPU参与的数据搬移。GDS将这个过程缩减为一次直接的RDMA写入,不仅降低了时延,更释放了CPU算力用于其他任务。
从工程实现角度,端到端GDS并非简单地启用NVMe-oF和GPUDirect-RDMA就万事大吉。它要求存储侧的NVMe队列深度管理、RDMA连接池、GPU显存注册和PIN管理等子系统深度协同。A9000在数据供给通路上的"深度优化"暗示了浪潮在这些子系统上做了大量调优工作,包括NVMe队列与GPU Stream的映射策略、RDMA Work Request的批量提交机制等。
GDS路径:SSD → NVMe-oF/RDMA → GPU显存(1次直接传输)
理论时延降低:≈50%(实测TTFT降低97%得益于全栈优化叠加)
三、AI原生KV Cache:以存代算的工程实践
大语言模型推理的核心瓶颈之一是KV Cache(Key-Value Cache)管理。在Transformer架构的自注意力机制中,每生成一个新Token都需要访问之前所有Token的Key和Value向量——这就是KV Cache。以8卡A100运行LLaMA-65B为例,Prefill阶段每处理2K Token就产生约5GB的KV Cache;持续计算1分钟可产生2.3TB,30分钟可达68.4TB[3]。
这些数据通常暂存在GPU的HBM(高带宽内存)中。但HBM极其昂贵且容量有限——一块H100 80GB的GPU,KV Cache占用一旦超过显存容量,推理引擎要么丢弃旧上下文(导致模型"遗忘"),要么将KV Cache卸载到Host DRAM再重新加载(带来显著的时延开销)。这就是所谓的"显存墙"问题。
A9000的解决思路是内置AI原生KV Cache能力,通过创新的KV Cache卸载与重用技术实现上下文数据的跨请求复用[1]。其核心逻辑是:当GPU完成一个请求的Prefill阶段后,将产生的KV Cache通过GDS链路高速写入A9000存储节点;当新的请求复用相同的前缀上下文(如相同的System Prompt或历史对话)时,直接从A9000拉取缓存的KV Cache,避免重复计算。
这一"以存代算"策略的实际效果是:在典型推理测试环境下,Token吞吐量提升超20倍,TPOT(Time Per Output Token,每Token输出时间)降低96%[1]。这组数据的工程含义非常明确——GPU不再需要为重复的Prefill计算浪费算力,可以将计算资源几乎全部用于有价值的Token生成。
值得注意的是,KV Cache卸载并非浪潮独有。华为OceanStor A800的UCM(Unified Cache Memory)多级缓存方案、阿里云Tair KVCache分布式缓存系统都在探索类似路径[4]。但浪潮A9000的差异化在于将KV Cache管理深度嵌入存储系统内核,而非作为外挂缓存层——这意味着从数据组织、索引结构到淘汰策略都可以针对KV Cache的访问模式(大块顺序写入、按序列号随机读取)做专门优化。
四、Agent Memory:解决智能体"逻辑断片"难题
Agent AI与传统LLM对话的核心区别在于"记忆持久性"。一个企业级智能体在执行复杂任务时,需要跨越多轮交互、多个子任务持续调用历史上下文——不仅包括对话历史,还包括中间推理状态、工具调用结果、决策路径等。如果底层存储无法在百微秒级内完成这些状态的检索和加载,智能体就会出现"逻辑断片":忘记之前说过的话、重复执行已完成的步骤、或做出与上下文矛盾的决策。
A9000针对这一需求设计了专门的Agent Memory优化机制[1]。其技术实现基于前述的免锁零拷贝架构,支持海量上下文状态的实时检索与瞬时唤醒。在数据组织层面,这要求存储系统能高效管理数十万甚至数百万个并发的智能体会话状态,每个会话的状态数据量从KB到GB不等,且访问模式呈现高度的局部性(同一智能体的连续请求倾向于访问相近的状态数据)。
从存储工程角度,这实际上对元数据管理提出了极高要求。传统分布式文件系统的元数据服务通常能处理数十万级的小文件操作,但智能体场景要求在百万级并发会话中实现微秒级的元数据查找。A9000声称支持"海量上下文状态的实时检索与瞬时唤醒"[1],暗示其可能采用了基于内存的分布式元数据索引或哈希映射表,而非传统的树状目录结构。
浪潮信息将这一能力的意义概括为"确保记忆随用随取"[1]。从用户视角看,这意味着智能体在连续执行一个需要50轮交互的复杂任务时,每一轮都能在百微秒内恢复完整的上下文状态,而不会出现性能退化或记忆丢失。
五、Zero-trust安全架构:多租户AI环境的安全基座
企业级AI落地对数据安全提出了全新挑战。在多业务并行、多角色协同的Agent生产环境中,存储系统不仅要防止传统意义上的数据泄露,还要应对AI场景特有的安全威胁——如原始数据投毒、模型训练数据污染、跨租户的上下文泄露等。
A9000构建了基于租户的多维强隔离架构,实现数据、访问、配置的三重物理级隔离[1]。这里的关键词是"物理级"——不同于很多存储系统采用的逻辑隔离(通过软件层的访问控制列表实现),物理级隔离意味着不同租户的数据在存储介质、计算资源和网络通道上都是物理分离的。这大幅提升了安全边界,但也意味着更高的资源开销和更复杂的资源调度。
同时,A9000基于Zero-trust安全架构,提供ACL目录权限隔离和全流程审计能力[1]。Zero-trust的核心理念是"永不信任,始终验证"——即使请求来自内网,也必须经过严格的身份认证和权限校验。在AI推理场景中,这意味着每一个KV Cache的读写请求、每一次上下文状态的加载都需要经过权限验证,确保智能体只能访问其被授权的数据。
数据完整性校验是另一项重要能力。在AI训练和推理中,数据的微小篡改可能导致模型产生严重的错误输出。A9000支持数据完整性校验[1],从存储层为AI数据的可信度提供了基础保障。
六、SPEC CPU 2026:新一代算力基准与浪潮的参与
与A9000发布几乎同期,2026年5月5日,标准性能评估组织(SPEC)正式发布SPEC CPU 2026基准测试套件[5]。浪潮信息作为SPEC联盟成员参与了该基准的开发工作[7]。SPEC CPU 2026是这一业界最权威CPU性能基准九年来的首次重大更新,将对未来十年的CPU性能评估产生深远影响。
SPEC CPU 2026包含52个基准测试,较SPEC CPU 2017的43个增加9个,其中38个为全新工作负载[6]。源代码行数增长了一倍多[6]。新增的测试项目包括LLVM优化编译器、Python解释器、神经机器翻译器等,更贴近当代生产环境的实际负载特征。与2017版相比,SPEC CPU 2026在指令量和内存占用上显著增加,压力更多地向指令缓存(I-Cache)等新兴瓶颈转移[8]。
值得注意的是,SPEC CPU 2026在设计时特别注重可移植性——从树莓派5到高端服务器均可运行[6]。这一设计选择反映了当今计算平台的多元化趋势:ARM、RISC-V等架构在服务器领域的渗透率不断提升,基准测试需要公平地评估不同架构的真实性能。对浪潮而言,参与SPEC CPU 2026的开发不仅意味着对基准测试方法论的深入理解,更能在后续的通用服务器产品设计中利用这些洞察优化系统配置。
SPEC CPU 2017将于2026年11月正式退役[5],届时SPEC CPU 2026将成为业界唯一的权威CPU基准。浪潮信息联合发布SPEC CPU 2026,体现了其在服务器基准测试领域的技术话语权。
| 指标 | SPEC CPU 2017 | SPEC CPU 2026 |
|---|---|---|
| 基准测试数量 | 43 | 52(新增38个)[6] |
| 源代码规模 | 基准 | 2倍以上[6] |
| 编程语言 | C/C++/Fortran | C18/C++17/Fortran-2018[9] |
| 新增领域 | — | LLVM编译器、Python解释器、神经机器翻译等[6] |
| 内存压力 | 中等 | 显著增加,更贴近现代负载[8] |
| 平台覆盖 | 主要x86 | x86/ARM/RISC-V全平台[6] |
| 退役时间 | 2026年11月[5] | — |
七、竞争格局:AI存储赛道的产品路线对比
AI存储是一个正在快速形成的新赛道。从技术路线看,当前市场主要存在三种路径:
路径一:传统存储AI化。以华为OceanStor A800为代表,在已有企业存储产品线上叠加AI加速功能(如UCM多级KV Cache)[4]。优势在于成熟的企业级特性(可靠性、数据服务)和已有的客户基础,挑战在于底层架构受限于传统存储设计,数据通路优化空间有限。
路径二:AI原生存储平台。以浪潮A9000为代表,从零开始围绕GPU数据通路设计存储架构[1]。优势在于极致的性能表现(160GB/s、200万IOPS、百微秒时延),挑战在于产品成熟度和企业级功能的完备性。
路径三:分布式KV Cache缓存层。以阿里云Tair KVCache为代表,不替代传统存储,而是在存储和GPU之间构建专用的KV Cache缓存层[4]。优势在于部署灵活、可渐进式采用,挑战在于引入额外的网络跳数和管理复杂度。
| 维度 | 浪潮A9000 国产 | 华为OceanStor A800 国产 | 阿里云Tair KVCache 商用 |
|---|---|---|---|
| 架构路线 | AI原生并行架构 | 传统存储+AI加速 | 分布式缓存层 |
| 单节点带宽 | 160GB/s[2] | 未公开 | N/A(分布式) |
| KV Cache能力 | 内置原生 | UCM多级缓存 | 专用KV缓存 |
| GDS支持 | 端到端 | 部分支持 | 不适用 |
| 多租户隔离 | 物理级三重隔离 | 逻辑隔离 | 命名空间隔离 |
| 部署形态 | 本地/私有化 | 本地/私有化 | 云端服务 |
八、工程挑战与局限性
尽管A9000在性能指标上表现出色,但从工程实践角度看仍存在若干值得关注的挑战。
GDS生态依赖。端到端GDS能力深度依赖英伟达的GPU-Direct Storage生态,这意味着A9000目前主要服务于使用英伟达GPU的AI集群。对于采用华为昇腾、寒武纪等国产加速卡的客户,GDS路径不可用,需要回退到传统的CPU中转路径,性能优势将大打折扣。
"以存代算"的容量经济学。KV Cache卸载到SSD意味着大量的写入操作。以NVMe SSD的典型DWPD(Drive Writes Per Day)指标衡量,持续的高频KV Cache写入可能加速SSD磨损,增加运维成本。浪潮尚未公布A9000在KV Cache场景下的SSD寿命管理策略。
性能数据的环境依赖。"TTFT降低97%、Token吞吐量提升20倍"这些数据来自"典型AI推理测试环境"[1],实际效果将高度依赖具体模型规模、上下文长度、并发请求数等参数。在不同场景下,性能提升幅度可能有显著差异。
产品成熟度。作为2026年4月刚发布的新产品,A9000尚未经过大规模生产环境的长期验证。传统企业级存储产品的成熟通常需要2-3年的迭代周期,AI存储产品能否加速这一过程有待观察。
九、技术演进趋势与展望
郭海峰在采访中透露了A9000系列并非AI数据平台的"最终形态"[2]。结合行业技术趋势,可以预判几个关键演进方向:
CXL协议融合。CXL(Compute Express Link)提供了缓存一致的互联协议,允许GPU直接以缓存一致性方式访问远端存储。当前A9000依赖NVMe-oF+RDMA实现GDS,未来若集成CXL协议,可以进一步降低KV Cache卸载的软件开销,实现真正的"内存语义"访问。CXL 3.0规范已支持多级交换和内存池化,为AI存储的架构创新提供了硬件基础。
存储层智能化。当前A9000的KV Cache管理策略(淘汰、预取、压缩)仍以规则驱动为主。未来可能引入基于机器学习的自适应策略——根据历史访问模式预测哪些KV Cache将被复用,提前预加载到更快的存储层级。铠侠等SSD厂商已在探索让SSD自主处理AI检索任务[3],这一趋势将推动存储控制器向AI推理协处理器演进。
从3.5层到4层。郭海峰指出,当前的HBM→DRAM→SSD三级缓存体系加上网络层构成"3.5层"架构,属于过渡性方案[2]。随着CXL协议成熟和闪存颗粒进步,未来的第四层存储将直接解决推理效率问题,消除当前架构中的妥协设计。
标准化与生态。AI存储领域的接口标准尚未收敛——不同厂商的KV Cache格式、卸载协议、缓存管理接口各不相同。浪潮信息表示将致力于兼容性和标准化建设工作[2],这既是技术选择,也是市场竞争策略:谁主导了AI存储的接口标准,谁就能在生态层面建立护城河。
十、结论
浪潮A9000 AI数据平台的核心价值在于:它不是在传统存储上叠加AI功能的渐进式改良,而是从数据通路到KV Cache管理再到安全架构的全面重构。其AI原生并行架构、端到端GDS、原生KV Cache三项核心能力的叠加,在Agent AI推理场景中实现了TTFT降低97%、Token吞吐量提升20倍的性能突破[1]。
从产业视角看,A9000代表了中国存储厂商在AI基础设施领域的一次前瞻性布局。当全球AI推理算力需求以每年数倍的速度增长时,"以存代算"正在从学术概念走向工程实践。浪潮选择了一条难度较高但差异化明显的路线——不是做现有存储的AI增强版,而是打造AI原生的数据平台。这条路能否走通,取决于三个因素:GDS生态的演进方向(是否保持开放)、国产GPU对类似高速存储访问协议的支持进度、以及A9000自身在大规模生产环境中的可靠性验证。
同时,浪潮信息参与SPEC CPU 2026基准的开发[7],表明其不仅在产品层面投入AI基础设施,还在行业标准层面积极构建技术话语权。这种"产品+标准"的双轨策略,有助于浪潮在AI服务器和AI存储两个维度上形成协同优势。
关键结论
A9000的发布标志着企业级存储从"数据湖"到"数据河"的范式转移进入产品化阶段。存储不再是AI基础设施的配角,而是直接影响推理速度、Token成本和智能体记忆连续性的关键变量。浪潮在这一赛道上选择了AI原生架构的激进路线,与传统存储AI化路线形成差异化竞争。
参考来源
- [1] 浪潮信息重磅发布A9000 AI数据平台,打造Agent AI时代高性能存储基座 — 浪潮信息官网,2026-04-17
- [2] 千亿企业级存储市场,产品逻辑变了 — 观察者网风闻,2026-05
- [3] AI存储革命已至,"以存代算"开启存储新纪元 — 天风证券行业研究报告,2025-09
- [4] GTC解读:当我们谈论AI推理的KV Cache,我们在做什么? — 极客公园,2026
- [5] SPEC CPU 2026 Benchmark Suites — SPEC官网,2026-05-05
- [6] New server-focused SPEC CPU 2026 benchmarking suite — Tom's Hardware,2026-05
- [7] 浪潮信息新闻中心:SPEC CPU 2026最新算力评测基准正式发布 — 浪潮信息官网,2026-05
- [8] SPEC CPU2026: Characterization, Representativeness, and Cross-Suite Comparison — arXiv,2026-05
- [9] SPEC CPU 2026 Overview / What's New? — SPEC官网,2026
- [10] 浪潮AI数据平台有效应对大模型响应延迟和算力成本问题 — 中国科技网,2026-04-21