17380538992

戴尔构建由 Nvidia 驱动的人工智能工厂用于业务分析

Admin 86 2024-05-09 17:32

戴尔正在构建一个基于 Nvidia 的人工智能工厂,以便客户可以使用戴尔服务器、存储和网络为 RAG 集成的人工智能推理系统提供专有数据,以便更好地进行分析。


它声称,到 2025 年,三分之二的企业将结合 GenAI 和检索增强生成来帮助特定领域的自助知识发现。根据 IDC 人工智能报告,这将使决策效率提高 50%。戴尔表示,其人工智能产品组合将比任何其他供应商更好地帮助客户采用 GenAI。


Wedbush 金融分析师马特·布赖森 (Matt Bryson) 告诉订阅者:“从 Nvidia 黄金芯片开始的连锁反应现在已成为未来几年冲击科技界其他领域的支出浪潮。我们估计,随着第四次工业革命中企业和消费者用例在全球范围内激增,未来十年人工智能支出将超过 1 万亿美元。”

这些服务得到戴尔专业服务组织的支持,并通过其基于 APEX 订阅的业务模式提供。


AI Factory 是一个端到端系统,包括列表中的其他项目。它将把戴尔的计算、存储、客户端设备和软件功能与英伟达的人工智能基础设施和软件套件相集成,并以高速网络结构为基础。 

GenAI 基础设施由配备 Nvidia GPU 的 PowerEdge 服务器、PowerScale 横向扩展文件管理器以及添加 RAG 的 PowerSwitch 网络组成,后者使用 NeMo 等 Nvidia 微服务。戴尔表示,可以快速获取新数据来更新语义搜索数据库。然而,正如我们所指出的,将组织的所有专有数据提取到语义搜索数据库中并不是一件简单的事情。

戴尔的参考架构将其服务器、存储和网络设备与 Nvidia GPU 服务器和软件相结合。其x86服务器包括R760xa、XE8640和XE9690。 Nvidia GPU 包括 L40s 和 H10,但也将支持较新的型号。

XE9680使用Nvidia的H200 GPU加上新发布的更强大的风冷B100和液冷HGX B200。 HGX H200 的性能是 HGX H100 GPU 的两倍,TCO 是 HGX H100 GPU 的一半。

戴尔还将支持 Nvidia 的 GB200 超级芯片,与八路 HGX H100 GPU 相比,其处理性能提高了 20 倍,大规模推理的 TCO 降低了 40 倍。 GB200定位为实时推理芯片,能够运行数万亿参数模型。

戴尔表示,所有这些套件都可用于人工智能模型训练和推理。它可以使用 BlueField-3 以太网或 InfiniBand 网络。 PowerEdge 760xa 使用 Nvidia 的 Omniverse OVX 3.0 平台,而 XE9680 则采用 Nvidia 的 Spectrum-X 以太网 AI 结构。


戴尔的 PowerScale 存储现已通过 Nvidia DGX SuperPOD 验证,这是第一个获得该资格的以太网连接存储,PowerScale 声称超出了 SuperPOD 基准要求。戴尔尚未透露具体的基准数据。

戴尔PowerScale 解决方案概述文档表示,现在的 PowerScale(基于 PCIe 5 的F710和 OneFS 9.7)的流写入和读取性能比上一代(基于 PCIe 3 的 F600 和 OneFS 9.4)快 2 倍,性能功耗比提高高达 90%高并发工作负载的性能提升高达 2.5 倍。

在 GPUDirect 方面,F600 的顺序写入速度为 1.26 GBps/节点,顺序读取速度为 5.26 GBps。 F710 的读取带宽提高了 2 倍,每节点读取带宽为 2.52 GBps,写入带宽为 10.52 GBps/节点。其他系统运行得更快。 DDN 的AI400X2 Turbo写入时为 37.5 GBps/节点,读取时为 60 GBps/节点

这个全面的人工智能产品组合的数据 Lakehouse 元素使用Starburst Presto 软件、Kubernetes 组织的 Lakehouse 系统软件以及基于戴尔 ECS、 ObjectScale或 PowerScale 存储产品的横向扩展对象存储。


【公司名称】四川旭辉星创科技有限公司

【代理级别】成都戴尔服务器工作站总代理

【销售经理】王经理

【联系方式】座机:028-85596747    手机:17380538992

【公司地址】四川省成都市武侯区二环路南一段13号群益商务大厦1栋单元4层1-403

联系我们
您好,咨询客服了解更多促销产品
售前优惠在线咨询
QQ咨询
微信咨询
售前优惠电话咨询专线:
17380538992
售后电话咨询专线:
028-85596747

请用微信扫描二维码

2.336892s