电子行业专题报告：如何测算文本大模型，AI训练端算力需求？-240603-华福证券

报告摘要

需求侧：Scaling Law 驱动大模型算力需求不减 Scaling Law 仍然是当下驱动行业发展的重要标准。基本原理是，模型的最终性能主要与计算量、模型参数量和数据大小

核心要点

2024 年 06 月 03 日
从大模型数量上看，近年来呈现爆发式增长趋势。
分析师：任志强(S0210524030001)
1、半导体板块再度活跃，消费回暖趋势进一步明
3、巨头轮番入场，AI PC 爆发在即——消费电子
2017 年至今，GB200 的 FP16 算力已达到 V100 的 40 倍。
结论：预计 24-26 年全球文本大模型训练卡需求为 271/592/1244 万张
1 如何测算文本大模型 AI 训练侧算力需求？

报告信息

文件全名: 《电子行业专题报告：如何测算文本大模型，AI训练端算力需求？-240603-华福证券-15页.pdf》
适合读者: 战略规划行业研究员
核心数据: 结论：预计 24-26 年全球文本大模型训练卡需求为 271/592/1244 万张
从大模型数量上看，近年来呈现爆发式增长趋势。
，训练数据量（Token 数）同方向快速增长，由 0.3TB 提升至
2017 年至今，GB200 的 FP16 算力已达到 V100 的 40 倍。
Law 发展方向进一步增长，供给侧通过对英伟达 GPU 的 FP16 算力、
核心议题: 大模型GPT

常见问题

《电子行业专题报告：如何测算文本大模型，AI训练端算力需求？-240603-华福证券》主要包含哪些内容?

需求侧：Scaling Law 驱动大模型算力需求不减 Scaling Law 仍然是当下驱动行业发展的重要标准。基本原理是，模型的最终性能主要与计算量、模型参数量和数据大小核心数据:结论：预计 24-26 年全球文本大模型训练卡需求为 271/592/1244 万张;从大模型数量上看，近年来呈现爆发式增长趋势。;，训练数据量（Token 数）同方向快速增长，由 0.3TB 提升至。

这份报告由哪家机构发布?

本报告由华福证券发布,发布于 2024 年。

这份报告覆盖哪一年、篇幅多大?

覆盖 2024 年,全文约 15。

这份报告是免费的吗?如何获取?

本报告免费查阅,登录资料宝后即可在线获取完整内容。

这份报告适合哪些读者?

适合战略规划、行业研究员等读者参考。

报告涉及哪些关键议题?

重点分析了大模型、GPT等议题。