17380538992

戴尔利用全新 Nvidia 驱动的人工智能平台扩展基础设施产品组合

Admin 92 2024-03-25 09:57


戴尔科技公司正在推出一系列基础设施产品,包括新服务器,有望帮助企业更有效地训练和运行人工智能模型。


该公司在 Nvidia 公司备受关注的 GTC 开发者大会上发布了这些产品。据戴尔称,其新服务器与Nvidia首席执行官黄仁勋在活动中推出的B200 Tensor Core显卡兼容。戴尔正在推出这些机器以及数据湖平台,升级其存储产品组合以及一系列其他产品更新。


“各组织都在急于尝试人工智能,但实现投资回报率面临许多挑战。数据主权问题、法律和合规问题以及数据质量都是首要考虑的问题,”theCUBE Research 联合创始人兼首席分析师 Dave Vellante 表示。 “我们的研究表明,企业正在寻求戴尔和 NVIDIA 等行业领导者的帮助,以帮助提供 AI 专业知识和服务,以降低风险并更快获得投资回报。”

推理优化计算

戴尔全新PowerEdge XE9680服务器将向配备Nvidia最新B200 Tensor Core图形处理单元的客户提供。该芯片预计将执行推理,即在生产中运行经过训练的 AI 模型的任务,速度比上一代芯片快 15 倍。它还被吹捧为更具成本效益。 


B200 基于名为 Blackwell 的新型 Nvidia GPU 架构。据戴尔称,其PowerEdge XE9680服务器还支持其他基于Blackwell的芯片以及H200 Tensor Core。后者于 11 月推出,是 H100 的增强版,专门针对运行大型语言模型进行了优化。


在网络方面,新服务器可与 Nvidia 的 Quantum-2 和 Spectrum-X 交换机系列配合使用。它们分别针对使用 InfiniBand 和以太网数据传输协议的网络而构建。这两个交换机系列都包含一系列软件功能,旨在减少延迟并减少拥塞连接对数据传输速度的影响。

数据存储和管理 

PowerScale 是戴尔的一系列网络附加存储设备,针对运行 AI 模型等用例进行了优化。该系统将数据保存在采用横向扩展架构实现的闪存驱动器中,这使得在需要时添加更多容量变得相对简单。称为 OneFS 的存储操作系统管理容量扩展过程以及相关的维护任务。


据戴尔称,PowerScale系列现已成为第一批经过验证可与基于DGX H100的SuperPOD一起使用的以太网存储系统。 DGX H100 是 Nvidia 的一款数据中心设备,配备 8 个该芯片制造商的 H100 GPU。反过来,SuperPOD 是 DGX 设备的集群。


戴尔表示,今天在 GTC 上详细介绍的产品更新不仅使数据存储变得更加容易,而且还使数据管理变得更加容易。在推出新服务器的同时,该公司宣布其 Dell Data Lakehouse 平台现已在全球上市。该产品允许组织集中处理来自不同来源的信息。


企业历史上使用两种主要类型的数据管理平台。数据仓库高度可靠,非常适合处理结构化记录,而数据湖可以以经济高效的方式保存大量非结构化信息。诸如戴尔新推出的平台之类的数据湖将这两种技术的功能集结合在一个产品中。

综合平台

戴尔还在 GTC 上推出了其产品组合中的其他几款产品。每项新产品都将公司硬件产品组合的多个组件与软件、专业服务和 Nvidia 芯片相结合。 


第一个产品是戴尔人工智能工厂,被描述为用于训练、调整和运行人工智能模型的“端到端人工智能企业解决方案”。它将 Nvidia 芯片与戴尔的计算、存储、客户端设备和软件产品组合以及专业服务相结合。这些服务有望简化准备人工智能数据集等任务。


Dell Generative AI Solutions with NVIDIA – Model Training 是另一个新推出的基础设施平台。据该公司称,它可以帮助公司更轻松地训练针对特定领域任务优化的定制人工智能模型。第三个新产品是采用 NVIDIA 的戴尔生成式 AI 解决方案 – 检索增强生成,面向正在构建具有 RAG 功能的 AI 模型的公司。


 Nvidia 首席执行官黄仁勋 (Jensen Huang) 表示:“NVIDIA 和戴尔正在共同帮助企业创建人工智能工厂,将其专有数据转化为强大的洞察力。”


人工智能加速器产生的热量比典型的中央处理器要多得多。戴尔今天详细介绍说,它正在与 Nvidia 合作开发基于芯片制造商 Grace Blackwell Superchip 的机架级液冷 AI 平台。用于数据中心冷却的水和其他液体比空气更好地导热,这使得它们在调节服务器温度方面更有效。


【公司名称】四川旭辉星创科技有限公司

【代理级别】成都戴尔服务器工作站总代理

【销售经理】王经理

【联系方式】座机:028-85596747    手机:17380538992

【公司地址】四川省成都市武侯区二环路南一段13号群益商务大厦1栋单元4层1-403

联系我们
您好,咨询客服了解更多促销产品
售前优惠在线咨询
QQ咨询
微信咨询
售前优惠电话咨询专线:
17380538992
售后电话咨询专线:
028-85596747

请用微信扫描二维码

2.088598s