行業(yè)領(lǐng)導(dǎo)者打破藩籬，使開(kāi)發(fā)人員能夠輕松地在 Windows 11 上訓(xùn)練并部署先進(jìn)的 AI 模型，并在配備 RTX 的 PC 和工作站上提供節(jié)能的推理。

生成式 AI，以 ChatGPT 等大型語(yǔ)言模型（LLM）應(yīng)用、Stable Diffusion 和 Adobe Firefly 等圖片生成器，以及 NVIDIA DLSS 3 Frame Generation（DLSS 3 幀生成技術(shù)）等游戲渲染技術(shù)為代表，正在迅速為生產(chǎn)力、內(nèi)容創(chuàng)作、游戲等開(kāi)創(chuàng)計(jì)算的新時(shí)代。

在微軟 Build 開(kāi)發(fā)者大會(huì)上，NVIDIA 和微軟展示了一系列搭載 NVIDIA RTX GPU 的 Windows 11 PC 和工作站的先進(jìn)技術(shù)，旨在滿足生成式 AI 的需求。

超過(guò) 400 款應(yīng)用和游戲已采用 AI 技術(shù)，通過(guò) RTX GPU 上的專(zhuān)用處理器 Tensor Core 進(jìn)行加速。今天發(fā)布的內(nèi)容，包括用于在 Windows PC 上開(kāi)發(fā) AI 的工具、優(yōu)化和部署 AI 的框架，以及驅(qū)動(dòng)性能和能效提升，將使開(kāi)發(fā)人員能夠以生成式 AI 為核心來(lái)構(gòu)建下一代 Windows 應(yīng)用。

微軟 Windows 芯片和系統(tǒng)集成副總裁 Pavan Davuluri 表示：“ 未來(lái)幾年，AI 將成為 Windows 用戶創(chuàng)新的最大驅(qū)動(dòng)力。通過(guò)與 NVIDIA 在硬件和軟件優(yōu)化方面進(jìn)行合作，我們?yōu)殚_(kāi)發(fā)人員提供了一種革命性、高性能并易于部署的體驗(yàn)。”

利用 Linux 的 Windows 子系統(tǒng)開(kāi)發(fā)模型

AI 開(kāi)發(fā)通常是在 Linux 上進(jìn)行的，需要開(kāi)發(fā)人員啟動(dòng)雙系統(tǒng)， 或是使用多臺(tái) PC 在 AI 開(kāi)發(fā)操作系統(tǒng)中進(jìn)行工作，同時(shí)仍然可以獲得 Windows 生態(tài)系統(tǒng)的深度和廣度。

過(guò)去的幾年里，微軟一直致力于讓 Linux 直接在 Windows 操作系統(tǒng)中運(yùn)行，也就是適用于 Linux 的 Windows 子系統(tǒng)（WSL）。NVIDIA 一直與微軟密切合作，為 WSL 內(nèi)部的整個(gè) NVIDIA AI 軟件堆棧提供 GPU 加速和支持。開(kāi)發(fā)人員現(xiàn)在可以使用 Windows PC 來(lái)滿足所有本地 AI 開(kāi)發(fā)需求，并支持 GPU 加速的 WSL 深度學(xué)習(xí)框架。

NVIDIA RTX GPU 在臺(tái)式機(jī)工作站中提供高達(dá) 48GB 的顯存，開(kāi)發(fā)人員現(xiàn)在可以在 Windows 上處理以前只能在服務(wù)器上處理的模型。大顯存還提高了 AI 模型本地微調(diào)的性能和質(zhì)量，使設(shè)計(jì)師能夠根據(jù)自己的風(fēng)格或內(nèi)容進(jìn)行定制。NVIDIA 數(shù)據(jù)中心 GPU 也運(yùn)行相同的 NVIDIA AI 軟件堆棧，開(kāi)發(fā)人員因此可以輕松將模型推送到微軟 Azure 云上進(jìn)行大規(guī)模訓(xùn)練。

快速優(yōu)化并部署模型

有了經(jīng)過(guò)訓(xùn)練的模型，開(kāi)發(fā)人員需要針對(duì)目標(biāo)設(shè)備來(lái)優(yōu)化和部署 AI。

微軟發(fā)布了 Microsoft Olive 工具鏈，用于優(yōu)化 PyTorch 模型并將其轉(zhuǎn)換到 ONNX，使開(kāi)發(fā)人員能夠自動(dòng)利用 RTX Tensor Core 等 GPU 硬件加速。開(kāi)發(fā)人員可以通過(guò) Olive 和 ONNX 優(yōu)化模型，并將 Tensor Core 加速的模型部署到 PC 或云端。微軟將繼續(xù)投資，使 PyTorch 及相關(guān)工具和框架與 WSL 無(wú)縫協(xié)作，從而提供最佳的 AI 模型開(kāi)發(fā)體驗(yàn)。

提升 AI 的性能和能效

一旦部署，生成式 AI 模型需要令人難以置信的推理性能。RTX Tensor Core 為 AI 推理提供高達(dá) 1,400 的 Tensor TFLOPS（萬(wàn)億次浮點(diǎn)運(yùn)算）。過(guò)去一年，NVIDIA 一直致力于提升 DirectML 的性能，以便充分利用 RTX 硬件的優(yōu)勢(shì)。

5 月 24 日，我們將在 532.03 版驅(qū)動(dòng)中發(fā)布最新的優(yōu)化，與 Olive 優(yōu)化的模型相結(jié)合，大幅提升 AI 性能。使用 Olive 優(yōu)化版 Stable Diffusion 文本-圖像轉(zhuǎn)換器以及受歡迎的 Automatic1111 發(fā)行版，新驅(qū)動(dòng)程序的性能提高了 2 倍以上。

使用 Automatic1111 和文本-圖像轉(zhuǎn)換功能，在 GeForce RTX 4090 上測(cè)試 Stable Diffusion 的性能。

隨著 AI 即將進(jìn)入幾乎所有 Windows 應(yīng)用，提供節(jié)能的推理性能變得至關(guān)重要——尤其對(duì)于筆記本電腦來(lái)說(shuō)。NVIDIA 即將推出新的 Max-Q 低功耗推理，用于 RTX GPU 上的純 AI 工作負(fù)載。它在優(yōu)化 Tensor Core 性能的同時(shí)盡可能地降低 GPU 的功耗，延長(zhǎng)電池續(xù)航時(shí)間，并使系統(tǒng)保持出色的散熱和降噪表現(xiàn)。根據(jù)負(fù)載需要，GPU 可以動(dòng)態(tài)地?cái)U(kuò)展，以提供最高的 AI 性能。

現(xiàn)在就加入 PC 的 AI 變革

頂級(jí)軟件開(kāi)發(fā)商，如 Adobe、DxO、ON1 和 Topaz，已經(jīng)將 NVIDIA AI 技術(shù)與 400 多款被 RTX Tensor Core 優(yōu)化的 Windows 應(yīng)用和游戲結(jié)合起來(lái)。

“AI、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)已經(jīng)用于所有 Adobe 應(yīng)用，并推動(dòng)創(chuàng)意的未來(lái)發(fā)展。我們與 NVIDIA 合作，不斷優(yōu)化 AI 模型的性能，在 RTX GPU 上為 Windows 用戶提供盡可能最佳的體驗(yàn)。”

—— Adobe 數(shù)字媒體首席技術(shù)官 Ely Greenfield

“NVIDIA 正幫助我們?cè)?RTX GPU 上優(yōu)化 WinML 模型的性能，這將加速 DxO DeepPRIME 中的 AI，并更快更好地去噪、去馬賽克。”

—— DxO 高級(jí)工程副總裁 Renaud Capolunghi

“與 NVIDIA 和微軟合作，在 RTX GPU 上加速我們?cè)?Windows 中運(yùn)行的 AI 模型，這讓用戶受益匪淺。我們已經(jīng)看到 AI 照片編輯軟件套件的性能提升了 1.5 倍。”

—— ON1 產(chǎn)品副總裁 Dan Harlacher

“我們與 NVIDIA 的廣泛合作改進(jìn)了照片和視頻編輯應(yīng)用套件。借助 RTX GPU，AI 性能得到了大幅提升，增強(qiáng)了用戶在 Windows PC 上的體驗(yàn)。”

—— Topaz Labs AI 引擎開(kāi)發(fā)負(fù)責(zé)人 Suraj Raghuraman

NVIDIA 和微軟正在為開(kāi)發(fā)人員提供一些資源，以便在 Windows PC 上測(cè)試主要的生成式 AI 模型。Hugging Face 上提供了一個(gè) Olive 優(yōu)化版的 Dolly 2.0 大語(yǔ)言模型。此外，用于對(duì)話式 AI 的 NVIDIA NeMo 大型語(yǔ)言模型的 PC 優(yōu)化版也即將在 Hugging Face 上線。

開(kāi)發(fā)人員還可以通過(guò) NVIDIA 開(kāi)發(fā)者網(wǎng)站上的 AI 加速應(yīng)用頁(yè)面，學(xué)習(xí)如何端到端地優(yōu)化應(yīng)用程序以充分利用 GPU 加速。

通過(guò)微軟 Windows 平臺(tái)和 NVIDIA 動(dòng)態(tài) AI 硬件和軟件堆棧背后的互補(bǔ)技術(shù)，開(kāi)發(fā)人員將能夠在 Windows 11 上快速、輕松地開(kāi)發(fā)并部署生成式 AI。

微軟 Build 開(kāi)發(fā)者大會(huì)將一直持續(xù)到 5 月 25 日（星期四），敬請(qǐng)關(guān)注。

點(diǎn)擊 “閱讀原文”，或掃描下方海報(bào)二維碼，在 5 月 29 日觀看 NVIDIA 創(chuàng)始人兼 CEO 黃仁勛為 COMPUTEX 2023 帶來(lái)的主題演講直播，了解AI、圖形及其他領(lǐng)域的最新進(jìn)展！