開發者可以直接在瀏覽器中試用全新的 NVIDIA AI Foundation Models,使用 NVIDIA AI Foundation Endpoints 在應用程序中進行測試,然后使用專有的業務數據進行自定義。

如今,免費、開源的大語言模型對企業來說就像是一頓“自助餐”。但對于構建自定義生成式 AI 應用的開發者來說,這頓“大餐”可能會讓他們應接不暇,因為他們需要滿足各種不同的項目和業務需求,比如兼容性、安全性和用來訓練模型的數據。 NVIDIA AI Foundation Models集企業級預訓練模型之大成,為開發人員提供了針對企業應用定制生成式 AI 的良好開端。
NVIDIA 優化的基礎模型加速創新
NVIDIA AI Foundation Models 可通過簡單的用戶界面或 API 直接在瀏覽器體驗。此外,這些模型還可通過NVIDIA AI Foundation Endpoints進行訪問,以便在企業應用中測試模型性能。
Llama 2、Stable Diffusion XL 和 Mistral 等現有的領先社區模型在格式化后,可幫助開發者利用其專有數據精簡自定義過程。此外,這些模型還通過NVIDIA TensorRT-LLM進行了優化,以提供最高的吞吐量和最低的時延,同時支持在任一NVIDIA GPU加速堆棧上的大規模運行。例如,經過 TensorRT-LLM 優化的 Llama 2 模型在 NVIDIA H100 上的運行速度提高了近 2 倍。 新的NVIDIA Nemotron-3 8B基礎模型系列可支持創建當今領先的企業聊天與問答應用,并適用于醫療、電信和金融服務等眾多行業。 這一系列模型是客戶構建安全且生產就緒的生成式 AI 應用的起點。這些模型在可靠的數據集上訓練而成,其性能可媲美規模更大的模型,因此成為企業部署的理想之選。 多語言功能是 Nemotron-3 8B 系列模型的關鍵優勢之一。這些開箱即用的模型精通 50 多種語言,包括英語、德語、俄語、西班牙語、法語、日語、中文、韓語、意大利語和荷蘭語。
加快從自定義到部署的全過程
在跨業務功能中使用生成式 AI 的企業需要一個 AI foundry,以便為其獨特的應用自定義模型。NVIDIA 的 AI foundry 具備三個要素:NVIDIA AI Foundation Models、NVIDIA NeMo框架和工具,以及NVIDIA DGX云AI 超級計算服務。它們共同提供了端到端的企業級服務,以創建自定義生成式 AI 模型。
重要的是,企業擁有其定制化模型,也就可以通過NVIDIA AI Enterprise軟件將其部署到幾乎任何地點,并獲得企業級的安全性、穩定性和支持。 NVIDIA AI Foundation Models 現已在NVIDIA NGC 目錄(https://catalog.ngc.nvidia.com/ai-foundation-models.ngc.nvidia.com/ai-foundation-models)和 Hugging Face 上免費提供,并且也托管于 Microsoft Azure AI 模型目錄中。
GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行,線上大會也將同期開放。掃描下方海報二維碼,立即注冊 GTC 大會。
原文標題:NVIDIA 加快企業自定義生成式 AI 模型開發
文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
-
英偉達
+關注
關注
22文章
3874瀏覽量
92466
原文標題:NVIDIA 加快企業自定義生成式 AI 模型開發
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
如何添加自定義單板
NVIDIA Omniverse擴展至生成式物理AI領域
NVIDIA助力Amdocs打造生成式AI智能體
在設備上利用AI Edge Torch生成式API部署自定義大語言模型

NVIDIA AI助力SAP生成式AI助手Joule加速發展
NVIDIA攜手Meta推出AI服務,為企業提供生成式AI服務
NVIDIA AI Foundry 為全球企業打造自定義 Llama 3.1 生成式 AI 模型

揭秘NVIDIA AI Workbench 如何助力應用開發

AWTK 開源串口屏開發(18) - 用 C 語言自定義命令

評論