戴爾科技、慧與和聯想即將推出采用 NVIDIA L40S GPU 和 NVIDIA BlueField 的服務器，以支持 VMware Private AI Foundation with NVIDIA

拉斯維加斯 — VMware Explore — 太平洋時間 2023 年 8 月 22 日 — NVIDIA 宣布，全球領先的系統制造商將推出 AI 就緒型服務器，其支持同發布的 VMware Private AI Foundation with NVIDIA，幫助企業使用自有業務數據來定制和部署生成式 AI 應用。

NVIDIA AI 就緒型服務器將采用 NVIDIA L40S GPU、NVIDIA BlueField-3 DPU 和 NVIDIA AI Enterprise 軟件使企業能夠微調生成式 AI 基礎模型并部署生成式 AI 應用，比如智能聊天機器人、搜索和摘要工具等。這些服務器還提供由 NVIDIA 加速的基礎設施和軟件，以支持 VMware Private AI Foundation with NVIDIA。

作為全球領先的系統制造商的戴爾科技、慧與和聯想，將于年底前推出搭載 NVIDIA L40S 的服務器，以加速推進企業級 AI 的發展。

NVIDIA 創始人兼首席執行官黃仁勛表示：“全新的計算時代已經來臨，各行各業的企業都在競相采用生成式 AI。我們正在通過涵蓋全球頂尖軟件和系統合作伙伴的生態系統，將生成式 AI 帶給全球企業?！?/p>

對于將部署 VMware Private AI Foundation with NVIDIA 的企業來說，NVIDIA AI 就緒型服務器是一個理想的平臺。

VMware 首席執行官 Raghu Raghuram 表示：“生成式 AI 正在大力推動數字化轉型進程，企業需要一種全面集成的解決方案，以更加安全地構建應用，從而推動業務發展。通過 VMware、NVIDIA、以及我們服務器制造商合作伙伴的專業知識相結合，企業將能夠在確保數據隱私、安全和可控性的前提下開發和部署 AI。”

助推企業生成式 AI 轉型

各行各業正在競相將生成式 AI 用于藥物研發、零售產品描述、智能虛擬助手、制造模擬、欺詐檢測等各種用途，NVIDIA AI 就緒型服務器將為這些行業提供全棧加速基礎設施和軟件。

這些服務器采用 NVIDIA AI Enterprise，即 NVIDIA AI 平臺的操作系統。該軟件為 100 多個框架、預訓練模型、工具套件和軟件提供生產就緒型企業級支持和安全性，包括用于 LLM 的 NVIDIA NeMo、用于模擬的 NVIDIA Modulus、用于數據科學的 NVIDIA RAPIDS 和用于生產型 AI 的 NVIDIA Triton 推理服務器。

專為處理包含數十億參數的復雜 AI 工作負載而打造的 L40S GPU 搭載第四代 Tensor Core 和 FP8 Transformer 引擎，可提供超 1.45 PFLOPS 的張量處理能力，其訓練性能是 NVIDIA A100 Tensor Core GPU 的 1.7 倍。

相較于 NVIDIA A100 GPU，NVIDIA L40S 可將智能聊天機器人、助手、搜索和摘要等生成式 AI 應用中的生成式 AI 推理性能提高 1.2 倍。

通過集成 NVIDIA BlueField DPU，可加速、卸載和隔離巨大計算工作負載，其中包含虛擬化、網絡、存儲、安全，以及其他云原生 AI 服務，以進一步提高速度。

NVIDIA ConnectX-7 智能網卡提供先進的硬件卸載和超低延遲，可為數據密集型生成式 AI 工作負載提供同類領先的可擴展性能。

推動企業生成式 AI 部署的龐大生態系統

全球領先的計算機制造商正在構建 NVIDIA AI 就緒型服務器，包括戴爾 PowerEdge R760xa、適用于 VMware Private AI Foundation with NVIDIA 的慧與 ProLiant Gen11 服務器以及聯想 ThinkSystem SR675 V3。

戴爾科技主席兼首席執行官 Michael Dell 表示：“生成式 AI 是創新的‘催化劑’，將助力解決一些全球性的重大挑戰。而采用 NVIDIA AI 就緒型服務器的戴爾生成式 AI 解決方案將扮演至關重要的角色，即通過推動生產力水平實現前所未有的提升，并變革工業運營的方式，以加速人類的進程?！?/p>

慧與總裁兼首席執行官 Antonio Neri 表示：“生成式 AI 將推動企業生產力規模的全新擴展 —— 從賦能聊天機器人和數字助理，到幫助設計和開發新的解決方案。我們很高興能繼續與 NVIDIA 密切合作，在一系列企業級調優和推理工作負載解決方案中采用 NVIDIA 的 GPU 和軟件，這將加速生成式 AI 的部署?！?/p>

聯想集團主席兼首席執行官楊元慶表示：“企業迫切希望采用生成式 AI 來推動智能化轉型。通過與 NVIDIA 和 VMware 合作，聯想正在進一步擴大自身在生成式 AI 領域的領先地位，并鞏固自身的獨特定位，即在客戶采用 AI 的旅程中為其提供幫助?！?/p>

供應情況

搭載 L40S GPU 和 BlueField DPU 的 NVIDIA AI 就緒型服務器將于年底前上市，云服務提供商預計將在未來幾個月提供實例。