资讯公告
英伟达发布人工智能工厂参考架构
发布时间:2024-11-11 发布者:域风网

英伟达发布人工智能工厂参考架构


英伟达(Nvidia)谈论人工智能工厂已经有一段时间了,现在它推出了一些参考设计来帮助建造这些工厂。这家芯片制造商发布了一系列所谓的企业参考架构(Enterprise RA),这是简化面向人工智能的数据中心建设的蓝图。


即使按照数据中心的建设标准,建设面向人工智能的数据中心也不是一件容易的事。对于大多数企业来说,这也是第一次建造这样的设施。毕竟,以前有谁建造过人工智能工厂呢?Nvidia 企业参考架构背后的理念是最大限度地减少构建这些基础设施的痛苦,并帮助企业确保其人工智能工厂能够在未来不断发展和扩展。


参考架构提供全栈硬件和软件建议。企业平台副总裁兼总经理鲍勃-佩特(Bob Pette)在一篇博文中表示,每个企业级RA都涵盖了Nvidia认证的服务器配置、通过Spectrum-X AI以太网网络和BlueField-3 DPU实现的AI优化网络,以及用于生产AI的无敌AI企业级软件基础。


由于 Nvidia 不提供存储设备,因此该参考架构不包括存储设备。相反,存储硬件和软件由 Nvidia 的认证服务器合作伙伴提供,如 Dell Technologies、Pure Storage 和 NetApp。


Nvidia的合作伙伴包括思科、戴尔、HPE、联想和Supermicro,共有23家认证数据中心合作伙伴和577套系统列入Nvidia的目录。


在软件方面,Nvidia 的 AI 企业平台包括用于构建和部署 AI 应用程序的 Nvidia NeMo 和 Nvidia NIM 等微服务,以及 Nvidia Base Command Manager Essentials,后者提供了用于基础设施配置、工作负载管理和资源监控的工具。


很明显,使用 Nvidia 参考架构的最大好处是能够更快地启动和运行,因为客户可以得到相应的指导,而不必自己摸索。


不过,还有另一个优势,那就是规模。Nvidia表示,参考架构的设计方式使其可以在新硬件和软件出现时轻松升级。


“Pette 在博客中说:"企业级 RA 为构建灵活且经济高效的加速基础架构提供了简化的方法,从而减少了部署 AI 基础架构解决方案的时间和成本。

文章相关标签: 英伟达 人工智能 工厂参考架构
购物车
业务咨询:
售后服务: