电子行业算力专题研究二：从训练到推理，算力芯片需求的华丽转身-240824-华福证券

报告摘要

推理算力：算力芯片行业的第二重驱动力我们在此前外发报告《如何测算文本大模型 AI 训练端算力需》中，对未来三年 AI 训练卡需求持乐观态度。

核心要点

2024 年 08 月 24 日
2024 财年数据中心有 40%的收入来自推理业务。
AI 推理侧算力供给需求公式，并分类讨论公式中的核心参数变化趋势，
Scaling Laws&长文本趋势：推理需求的核心驱动力
而随着上下文窗口瓶颈的快速突破，长文本趋势成为主流，有望驱动
分析师：陈海进(S0210524060003)
分析师：徐巡(S0210524060004)
1、AMD 宣布收购服务器供应商，英伟达强力加

报告信息

文件全名: 《电子行业算力专题研究二：从训练到推理，算力芯片需求的华丽转身-240824-华福证券-11页.pdf》
适合读者: 战略规划行业研究员
核心数据: 2024 财年数据中心有 40%的收入来自推理业务。
若以英伟达当代&前代 GPU 卡供给各占 50%计
图表 2：中国人工智能服务器负载及预测 .................................................................. 3
FY24Q4 业绩会纪要，公司 2024 财年数据中心有 40%的收入来自推理业务。
内，IDC 数据显示，我国 23H1 训练工作负载的服务器占比达到 49.4%，预计全年的
核心议题: 芯片

常见问题

《电子行业算力专题研究二：从训练到推理，算力芯片需求的华丽转身-240824-华福证券》主要包含哪些内容?

推理算力：算力芯片行业的第二重驱动力我们在此前外发报告《如何测算文本大模型 AI 训练端算力需》中，对未来三年 AI 训练卡需求持乐观态度。核心数据:2024 财年数据中心有 40%的收入来自推理业务。;若以英伟达当代&前代 GPU 卡供给各占 50%计;图表 2：中国人工智能服务器负载及预测 .................................................................. 3。

这份报告由哪家机构发布?

本报告由华福证券发布,发布于 2024 年。

这份报告覆盖哪一年、篇幅多大?

覆盖 2024 年,全文约 11。

这份报告是免费的吗?如何获取?

本报告免费查阅,登录资料宝后即可在线获取完整内容。

这份报告适合哪些读者?

适合战略规划、行业研究员等读者参考。

报告涉及哪些关键议题?

重点分析了芯片等议题。