是德科技推出AI数据中心构建器,用于验证和优化网络架构及主机设计
- 通过模拟真实世界的工作负载,验证人工智能基础设施的性能
- 评估新的算法、组件和协议如何提升人工智能训练的性能
- 无需投资昂贵的大规模部署,即可调整和优化 AI 工作负载及系统基础设施的各项参数
SANTA ROSA, Calif. April 01, 2025
是德科技公司(Keysight Technologies, Inc.,纽约证券交易所代码:KEYS)推出了Keysight AI (KAI)数据中心构建器,这是一款基于进阶 的软件套件,可模拟真实工作负载,以评估新算法、组件和协议对AI训练性能的影响。 KAI Data Center Builder 的工作负载仿真能力将大型语言模型(LLM)及其他人工智能(AI)模型的训练工作负载整合到 AI 基础设施组件(包括网络、主机和加速器)的设计与验证过程中。该解决方案能够促进硬件设计、协议、架构与 AI 训练算法之间的更紧密协同,从而提升系统性能。
AI运维人员采用各种并行处理策略(也称为模型分区)来加速AI模型的训练。将模型分区与AI集群的拓扑结构和配置相匹配,可提升训练性能。在AI集群的设计阶段,通过实验来解答关键问题是最佳做法。其中许多问题侧重于图形处理单元(GPU)之间的数据传输效率。关键考虑因素包括:
- AI主机或机架内GPU互连的扩展设计
- 横向扩展网络设计,包括每块GPU的带宽和拓扑结构
- 网络负载均衡和拥塞控制的配置
- 训练框架参数的调优
KAI Data Center Builder 工作负载仿真解决方案能够再现真实 AI 训练任务的网络通信模式,从而加速实验进程、缩短掌握技能所需的学习曲线,并深入剖析性能下降的原因——仅通过真实的 AI 训练任务很难实现这一点。 是德科技的客户可以访问包含 GPT 和 Llama 等大型语言模型(LLM)工作负载的库,其中包含数据并行(DP)、完全分片数据并行(FSDP)以及三维(3D)并行等常用模型分区方案。
利用KAI Data Center Builder中的工作负载仿真应用程序,AI 运维人员可以:
- 尝试调整并行处理参数,包括分区大小及其在可用AI基础设施上的分布(调度)
- 了解分区内部及分区之间的通信对总体任务完成时间(JCT)的影响
- 识别效率较低的集体运营环节,并深入分析以找出瓶颈
- 分析网络利用率、尾端延迟和拥塞情况,以了解它们对JCT的影响
KAI Data Center Builder 的新工作负载仿真功能使 AI 运营商、GPU 云服务提供商和基础设施供应商能够将逼真的 AI 工作负载引入其实验室环境,从而验证不断演进的 AI 集群设计和新组件。他们还可以通过实验来微调模型划分方案、参数和算法,以优化基础设施并提升 AI 工作负载的性能。
是德科技副总裁兼网络测试与安全解决方案总经理拉姆·佩里亚卡鲁潘(Ram Periakaruppan)表示:“随着人工智能基础设施规模和复杂性的不断扩大,对全栈验证与优化的需求变得至关重要。为了避免造成高昂成本的延误和返工,必须将验证工作提前到设计和制造周期的早期阶段,这一点基础 。 KAI Data Center Builder 的工作负载仿真技术为 AI 组件和系统设计带来了前所未有的真实感,可优化工作负载以实现峰值性能。”
KAI 数据中心构建器是是德科技人工智能(KAI)架构的基础,该架构是一套端到端解决方案组合,旨在通过利用真实世界的人工智能工作负载仿真来验证人工智能集群组件,从而帮助客户扩展数据中心中的人工智能处理能力。
是德科技将在4月1日至3日于加利福尼亚州旧金山莫斯康展览中心举行的OFC 2025大会上,于1301号展位展示KAI Data Center Builder及其工作负载仿真功能。
资源
- 产品页面: KAI 数据中心构建器
关于是德科技
是德科技(NYSE:KEYS)启迪并赋能创新者,助力他们将改变世界的技术带入生活。作为一家标准普尔 500 指数公司,我们提供先进的设计、仿真和测试解决方案,旨在帮助工程师在整个产品生命周期中更快地完成开发和部署,同时控制好风险。我们的客户遍及全球通信、工业自动化、航空航天与国防、汽车、半导体和通用电子等市场。我们与客户携手,加速创新,创造一个安全互联的世界。了解更多信息,请访问是德科技官网 www.keysight.com。
联系方式
安德里亚·穆勒
andrea.mueller@keysight.com
土肥富子,亚洲
+81 42 660–2162
fusako_dohi@keysight.com
珍妮·加拉赫,欧洲
+44 118 927 4003
jenny.gallacher@keysight.com
Keysight AI (KAI) Data Center Builder 是一款进阶 软件套件,可模拟真实世界的工作负载,以评估新的 算法、组件和协议对 AI 训练性能的 影响。