如何对人工智能集体通信进行基准测试

Keysight AI 中心构建器
+ Keysight AI 中心构建器

描述跨人工智能集群的集体通信特征

集体通信基准测试需从定义好的操作、参与的端点以及可重复的工作负载配置文件开始。配置网络拓扑和主机仿真端点,然后根据基准测试方法论选择集体通信模式,例如 AllReduce、AllGather 或 ReduceScatter。指定消息大小、参与的秩数、并发数和重复次数。 在执行参考运行之前,记录初始网络架构配置,包括链路速率和传输参数。随后,集体通信基准测试可通过扫描消息大小或集群规模来表征其扩展行为。记录每次运行的集体通信完成时间,并根据所选操作的一致定义计算有效带宽。

对于 AllReduce 基准测试,应在拓扑结构不变的情况下,比较不同消息大小和端点数量下的实际操作持续时间。在保持其他变量不变的前提下,修改一个已定义的网络参数或集体算法,然后重新运行该序列。应检查完成时间的分布情况,而非仅依赖单个样本。将有效带宽的变化与给定的工作负载、端点参与情况以及任何可用的网络计数器进行关联分析。重复相同的测试计划,以评估不同运行之间的差异。 将工作负载定义、基准测试设置、拓扑结构、时间戳和测量结果与每组测试结果一同存储。这将生成一份可比的记录,用于评估不同集体计算实现以及不同硬件或软件配置下 AI 架构的性能。

AI 集体通信基准测试解决方案

集体基准测试需要可重复的分布式流量模式、可配置的参与者数量以及对操作完成时间的测量。Keysight AI 数据中心构建器提供了一个框架,用于在数据中心网络架构上模拟人工智能工作负载的行为,包括集体通信活动。其集体基准测试工作流可用于调整工作负载参数,并比较不同网络配置下测得的完成时间和与吞吐量相关的指标。 测试环境采用受支持的高密度以太网流量生成硬件与软件平台相结合的方式,具体的设备及许可证选择需依据当前产品文档中记载的配置确定。工程师可选择一项具有代表性的集体操作,建立基线,调整一个工作负载参数,并比较所得的测量结果。所得曲线为评估集体扩展性、算法选择和网络架构设置提供了统一的依据。

观看 AI 集体通信基准测试解决方案的演示

探索我们的人工智能集体通信基准测试解决方案中的产品

探索资源与洞见

关于人工智能集体通信基准测试的补充资源

联系我们 标识

联系我们的专家之一

需要帮助找到适合您的解决方案吗?