NVIDIA DSX Air 整合了 KAI Inference Builder 以优化 AI 基础设施
Keysight AI Inference Builder 可帮助 AI 基础设施团队在真实工作负载条件下对针对推理优化的基础设施进行验证、基准测试和优化。随着企业从训练大型语言模型转向大规模部署，推理性能已成为容量规划、基础设施效率和投资回报率的关键因素。Keysight AI 的 Inference Builder 通过重现真实的推理工作负载模式并建模行业特定的使用模式，来验证 AI 基础设施、应用程序和数据中心部署，从而应对这一挑战。 是德科技演示了Keysight AI Inference Builder在NVIDIA DSX Air AI工厂仿真环境中的运行情况，用于在物理设备部署前对AI数据中心基础设施、架构和性能进行建模与优化。是德科技在NVIDIA GTC大会上演示了Keysight AI Inference Builder，展示了其在NVIDIA DSX Air AI工厂仿真环境中的运行情况。该演示在NVIDIA的数据中心仿真环境中生成逼真的推理工作负载，使运维人员能够在部署物理设备前对推理基础设施进行验证。
