电子行业AI的进击时刻22：MRDIMM和CXL增加AI服务器内存-251026-广发证券

报告摘要

MRDIMM 和 CXL 增加 AI 服务器内存。如何同时提升并平衡 AI 服务器的内存容量扩展与性能成为当前架构演（2）不同应用与负载的内存需求差异明显，

核心要点

2025 年 10 月 26 日
分析师：
1 / 12
重点公司估值和财务分析表

报告信息

文件全名: 《电子行业AI的进击时刻22：MRDIMM和CXL增加AI服务器内存-251026-广发证券-12页.pdf》
适合读者: 战略规划行业研究员
核心数据: AI 的进击时刻 19:AI 推理驱动存储需求增长，SPD&VPD 芯片空间广阔
载至 CXL 可使 batch size 提高 30%、GPU 需求降低 87%、prefill 阶段 GPU 利用率提升 7.5 倍；
间做内存池化，将部分 KV Cache 从昂贵的 GPU 显存弹性卸载到 CXL 设备，在不增加 GPU 成本前提下扩大
（3）解耦式 KV Cache 架构：在字节跳动 LLM 服务栈中，将 KV Cache 卸
数据来源：Wind、广发证券发展研究中心
核心议题: 大模型LLM

常见问题

《电子行业AI的进击时刻22：MRDIMM和CXL增加AI服务器内存-251026-广发证券》主要包含哪些内容?

MRDIMM 和 CXL 增加 AI 服务器内存。如何同时提升并平衡 AI 服务器的内存容量扩展与性能成为当前架构演（2）不同应用与负载的内存需求差异明显，核心数据:AI 的进击时刻 19:AI 推理驱动存储需求增长，SPD&VPD 芯片空间广阔;载至 CXL 可使 batch size 提高 30%、GPU 需求降低 87%、prefill 阶段 GPU 利用率提升 7.5 倍；;间做内存池化，将部分 KV Cache 从昂贵的 GPU 显存弹性卸载到 CXL 设备，在不增加 GPU 成本前提下扩大。

这份报告由哪家机构发布?

本报告由张大伟并非香港证券及期货发布,发布于 2025 年。

这份报告覆盖哪一年、篇幅多大?

覆盖 2025 年,全文约 12。

这份报告是免费的吗?如何获取?

本报告免费查阅,登录资料宝后即可在线获取完整内容。

这份报告适合哪些读者?

适合战略规划、行业研究员等读者参考。

报告涉及哪些关键议题?

重点分析了大模型、LLM等议题。