LM-SimBench 预印本提供统一的训练模拟评估框架与数据集，目标是在真正启动昂贵的分布式训练前，更可靠地比较并行化方案。
团队在昇腾 NPU 集群上测量了十类稠密及 MoE 模型家族的 23 组模型设置，得到 348 个可行配置，覆盖多种并行维度和激活重计算选择。
这些数据用于检查模拟器的耗时预测、配置选择及误差来源。论文还报告 GPU 与 NPU 的匹配实验，展示这套采集和评估方法的跨平台适用性。
来源：arXiv 原文。
图片来源：论文作者 / arXiv。
- AI 研究
LM-SimBench 预印本提供统一的训练模拟评估框架与数据集，目标是在真正启动昂贵的分布式训练前，更可靠地比较并行化方案。
团队在昇腾 NPU 集群上测量了十类稠密及 MoE 模型家族的 23 组模型设置，得到 348 个可行配置，覆盖多种并行维度和激活重计算选择。
这些数据用于检查模拟器的耗时预测、配置选择及误差来源。论文还报告 GPU 与 NPU 的匹配实验，展示这套采集和评估方法的跨平台适用性。
来源：arXiv 原文。
图片来源：论文作者 / arXiv。