人工智能芯片的功耗是数据中心专家和戴尔等服务器制造商最关心的问题之一。
戴尔首席运营官 Jeff Clarke 在上周公司的财报电话会议上再次强调了这一点,当时他透露 Nvidia 最新的 AI 加速器将消耗 1,000 瓦,比前身增加 42%。
即便如此,他表示即将推出的 Nvidia 芯片(他称之为 B200)将不需要在数据中心服务器中进行液体冷却。Nvidia 尚未宣布一款名为 B200 的芯片,但一些观察人士推测,Clarke 可能指的是 Nvidia 路线图上的 GB200 芯片,该芯片预计将结合 Nvidia 的 Grace CPU 和 B100 GPU,与 GH200 的配置相同。GB200的热设计功率可达1,300瓦,比前代产品提高了30%。
Nvidia 可能会在两周后的 GTC 活动中透露更多信息。
Nvidia 于 2023 年底推出了 H200,这是 H100 的更新版,由于采用了 HBM3e 内存,能够将 LLM 性能提高一倍。
在戴尔财报电话会议上,克拉克表示:“我们对 H200 所发生的事情及其性能改进感到非常兴奋。” 然后他说:“我们对 B100 和 B200 所发生的事情感到兴奋,并认为这实际上是另一个区分工程信心的机会。根据我们在热方面的表征,您实际上不需要直接液体冷却即可达到每个 GPU 1,000 瓦的能量密度。
“明年 B200 就会出现这种情况,”他说。他补充说,戴尔在大规模液体冷却、互连工作、遥测和电源管理方面展现了专业知识。“它确实使我们能够做好准备将其大规模推向市场,以利用市场上存在的这种令人难以置信的计算能力或强度或能力。”
【公司名称】四川旭辉星创科技有限公司
【代理级别】成都戴尔服务器工作站总代理
【销售经理】王经理
【联系方式】座机:028-85596747 手机:17380538992
【公司地址】四川省成都市武侯区二环路南一段13号群益商务大厦1栋单元4层1-403
请用微信扫描二维码