最新研究揭示，盡管大語(yǔ)言模型LLMs在語(yǔ)言理解上表現(xiàn)出色，但在邏輯推理方面仍有待提高。為此，研究者們推出了GLoRE，一個(gè)全新的邏輯推理評(píng)估基準(zhǔn)，包含12個(gè)數(shù)據(jù)集，覆蓋三大任務(wù)類型。
2023-11-23 15:05:16
476 
在大型語(yǔ)言模型（LLMs）的應(yīng)用中，提示工程（Prompt Engineering）是一種關(guān)鍵技術(shù)，用于引導(dǎo)模型生成特定輸出或執(zhí)行特定任務(wù)。通過(guò)精心設(shè)計(jì)的提示，可以顯著提高LLMs的性能和適用性。本文將介紹提示工程的主要方法和技巧，包括少樣本提示、提示壓縮和提示生成。
2023-12-13 14:21:47274 
NVIDIA NeMo Megatron 框架; 可定制的大規(guī)模語(yǔ)言模型 Megatron 530B；多GPU、多節(jié)點(diǎn) Triton推理服務(wù)器助力基于語(yǔ)言的AI開(kāi)發(fā)和部署，推動(dòng)行業(yè)和科學(xué)發(fā)展。
2021-11-10 14:22:52752 NVIDIA NeMo 大型語(yǔ)言模型（LLM）服務(wù)幫助開(kāi)發(fā)者定制大規(guī)模語(yǔ)言模型；NVIDIA BioNeMo 服務(wù)幫助研究人員生成和預(yù)測(cè)分子、蛋白質(zhì)及 DNA ? 美國(guó)加利福尼亞州圣克拉拉
2022-09-21 15:24:52434 
驅(qū)動(dòng)的NVIDIA DGX?超級(jí)計(jì)算機(jī)，旨在助力開(kāi)發(fā)面向生成式AI語(yǔ)言應(yīng)用、推薦系統(tǒng)和數(shù)據(jù)分析工作負(fù)載的巨型、下一代模型。 ? NVIDIA DGX GH200的超大共享內(nèi)存空間通過(guò)NVLink互連技術(shù)以及NVLink
2023-05-30 14:15:36422 
電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）ChatGPT等大型語(yǔ)言模型在語(yǔ)言理解、生成、知識(shí)推理等方面正展現(xiàn)出令人驚艷的能力。近段時(shí)間，各企業(yè)開(kāi)始探索大模型在不同行業(yè)中的應(yīng)用落地，并針對(duì)不同領(lǐng)域推出相對(duì)應(yīng)的行業(yè)
2023-07-25 00:12:001434 Jetson概述爆炸式增長(zhǎng)的AI模型的復(fù)雜性專為自主機(jī)器開(kāi)發(fā)人員設(shè)計(jì)的AI計(jì)算板加快AI處理的SDK“JetPack”概述NVIDIA Jetson是NVIDIA公司嵌入式單板計(jì)算機(jī)的一系列
2021-11-09 08:26:45
的BERT、GNMT 和Jasper 等AI模型開(kāi)源優(yōu)化幫助開(kāi)發(fā)者實(shí)現(xiàn)頂尖推理性能。NVIDIA的客戶和合作伙伴中包括有會(huì)話式AI領(lǐng)域的一流公司，比如Kensho、微軟、Nuance、Optum等。最后要
2019-11-08 19:44:51
騰CANN平臺(tái)專用的離線模型，既然要調(diào)用模型進(jìn)行推理，首先當(dāng)然是要把模型加載進(jìn)來(lái)，最簡(jiǎn)單的場(chǎng)景就是從磁盤加載一個(gè)離線模型文件進(jìn)內(nèi)存，接口如下：
aclError aclmdlLoadFromFile
2023-08-24 11:04:14
DLLite-Micro 是一個(gè)輕量級(jí)的 AI 推理框架，可以為 OpenHarmony OS 的輕量設(shè)備和小型設(shè)備提供深度模型的推理能力DLLite-Micro 向開(kāi)發(fā)者提供清晰、易上手的北向接口
2021-08-05 11:40:11
場(chǎng)景介紹
MindSpore Lite 是一款 AI 引擎，它提供了面向不同硬件設(shè)備 AI 模型推理的功能，目前已經(jīng)在圖像分類、目標(biāo)識(shí)別、人臉識(shí)別、文字識(shí)別等應(yīng)用中廣泛使用。
本文介紹
2023-12-14 11:41:13
你好我使用 STM32CUBE-AI v5.1.2 ApplicationTemplate 將簡(jiǎn)單的 CNN 導(dǎo)入到 STM32L462RCT我發(fā)現(xiàn)壓縮模型對(duì)推理時(shí)間沒(méi)有影響。aiRun 程序在 8
2023-01-29 06:24:08
你好， 我試圖在 X-CUBE-AI.7.1.0 中導(dǎo)入由在線 AI 平臺(tái)生成的 .h5 模型，收到錯(cuò)誤：E010(InvalidModelError): Model saved with Keras 2.7.0 but
2022-12-27 06:10:35
基于SRAM的方法可加速AI推理
2020-12-30 07:28:28
Tengine是什么呢？如何在RK3399這一 Arm64平臺(tái)上搭建Tengine AI推理框架呢？
2022-03-04 12:31:35
ONNX文件并生成特定平臺(tái)和運(yùn)行框架所支持的神經(jīng)網(wǎng)絡(luò)模型。ONNX本身不是AI神經(jīng)網(wǎng)絡(luò)運(yùn)行框架，只是AI神經(jīng)網(wǎng)絡(luò)模型通用中間描述文件格式GitHub鏈接https://github.com/onnx/onnx編程語(yǔ)言C++ / Python熱度5星Tenso
2021-12-14 06:18:44
如果在沒(méi)有嵌入式處理器供應(yīng)商提供的合適工具和軟件的支持下，既想設(shè)計(jì)高能效的邊緣人工智能(AI)系統(tǒng)，同時(shí)又要加快產(chǎn)品上市時(shí)間，這項(xiàng)工作難免會(huì)冗長(zhǎng)乏味。面臨的一系列挑戰(zhàn)包括選擇恰當(dāng)?shù)纳疃葘W(xué)習(xí)模型
2022-11-03 06:53:28
管理圖 主要流程：任務(wù)推理創(chuàng)建流程：首先配置客戶端sessionId，端配置clientId，由clientId和clientId組合生成唯一的transactionId，然后根據(jù)模型框架類型和推理網(wǎng)絡(luò)
2022-03-25 11:15:36
，支持廣泛的應(yīng)用程序和動(dòng)態(tài)工作負(fù)載。本文將討論這些行業(yè)挑戰(zhàn)可以在不同級(jí)別的硬件和軟件設(shè)計(jì)采用Xilinx VERSAL AI核心，業(yè)界首創(chuàng)自適應(yīng)計(jì)算加速平臺(tái)超越了CPU/GPU和FPGA的性能。
2020-11-01 09:28:57
對(duì)一些非參數(shù)化設(shè)計(jì)師以及3D打印純小白非常不友好。為此，清鋒科技推出了面向增材制造的晶格模型自動(dòng)生成平臺(tái)——LuxStudio，不僅可以實(shí)現(xiàn)多種結(jié)構(gòu)晶格的自動(dòng)生成
2022-11-09 10:43:02
亞馬遜宣布推出Inferentia，這是由AWS設(shè)計(jì)的芯片，專門用于部署帶有GPU的大型AI模型，該芯片將于明年推出。
2018-12-03 09:46:081753 自然語(yǔ)言理解、匹配排序等等，這些模型的訓(xùn)練和推理都大量依賴于NVIDIA GPU，尤其在推理方面，NVIDIA GPU及相應(yīng)的解決方案都滿足了業(yè)務(wù)所需的延遲和吞吐要求。 微信搜索業(yè)務(wù)需要更高效平臺(tái) 微信搜索業(yè)務(wù)由多個(gè)子模塊構(gòu)成，包括查
2021-10-28 15:28:121551 NVIDIA NeMo Megatron 框架; 可定制的大規(guī)模語(yǔ)言模型Megatron 530B；多GPU、多節(jié)點(diǎn) Triton推理服務(wù)器助力基于語(yǔ)言的AI開(kāi)發(fā)和部署，推動(dòng)行業(yè)和科學(xué)發(fā)展
2021-11-12 14:30:071327 軟件的新功能，該軟件為所有AI模型和框架提供跨平臺(tái)推理；同時(shí)也包含對(duì)NVIDIA TensorRT的更新，該軟件優(yōu)化AI模型并為NVIDIA GPU上的高性能推理提供運(yùn)行時(shí)優(yōu)化。 NVIDIA還推出了NVIDIA A2 Tensor Core GPU，這是一款用于邊
2021-11-12 14:42:531684 Microsoft Teams借助AI生成的實(shí)時(shí)字幕和轉(zhuǎn)錄功能，幫助全球?qū)W生和職場(chǎng)人士順利進(jìn)行在線會(huì)議。用于訓(xùn)練的NVIDIA AI計(jì)算技術(shù)和用于推理語(yǔ)音識(shí)別模型的NVIDIA Triton推理服務(wù)器進(jìn)一步提升了這兩個(gè)功能。
2022-01-04 14:20:111407 Microsoft Teams借助AI生成的實(shí)時(shí)字幕和轉(zhuǎn)錄功能，幫助全球?qū)W生和職場(chǎng)人士順利進(jìn)行在線會(huì)議。用于訓(xùn)練的NVIDIA AI計(jì)算技術(shù)和用于推理語(yǔ)音識(shí)別模型的NVIDIA Triton推理服務(wù)器進(jìn)一步提升了這兩個(gè)功能。
2022-01-04 17:45:121472 Microsoft 的目標(biāo)是，通過(guò)結(jié)合使用 Azure 與 NVIDIA GPU 和 Triton 推理軟件，率先將一系列強(qiáng)大的 AI Transformer 模型投入生產(chǎn)用途。
2022-04-02 13:04:211456 現(xiàn)在，您和開(kāi)發(fā)人員社區(qū)的其他成員都可以使用這些成果，主要是以開(kāi)源軟件的形式。此外， TensorRT 和 Triton 推理服務(wù)器可從?NVIDIA NGC?免費(fèi)獲得，以及預(yù)訓(xùn)練模型、深度學(xué)習(xí)框架
2022-04-08 16:31:31931 
“在使用 NVIDIA TensorRT和NVIDIA T4 GPU對(duì)平臺(tái)賦能后，“極星”推理平臺(tái)的算法推理效率得到了進(jìn)一步的提升，更好地支持速接入各類算法、數(shù)據(jù)及智能設(shè)備，實(shí)現(xiàn)AI自閉環(huán)能力，并通過(guò)應(yīng)用服務(wù)和標(biāo)準(zhǔn)化接口，幫助終端客戶低成本實(shí)現(xiàn)AI與業(yè)務(wù)的結(jié)合，快速構(gòu)建智能應(yīng)用。
2022-04-13 14:49:19862 NVIDIA Triton 有助于在每個(gè)數(shù)據(jù)中心、云和嵌入式設(shè)備中實(shí)現(xiàn)標(biāo)準(zhǔn)化的可擴(kuò)展生產(chǎn) AI 。它支持多個(gè)框架，在 GPU 和 DLA 等多個(gè)計(jì)算引擎上運(yùn)行模型，處理不同類型的推理查詢。通過(guò)與 NVIDIA JetPack 的集成， NVIDIA Triton 可用于嵌入式應(yīng)用。
2022-04-18 15:40:022306 
NVIDIA Triton 推理服務(wù)器(以前稱為 TensorRT 推理服務(wù)器)是一款開(kāi)源軟件，可簡(jiǎn)化深度學(xué)習(xí)模型在生產(chǎn)環(huán)境中的部署。借助 Triton 推理服務(wù)器，Devops 和 MLops
2022-06-28 15:49:471293 Kit 不僅大大提升了 GPU 集群上多機(jī)多卡分布式訓(xùn)練的效率，對(duì)于 GPU 上的模型推理也通過(guò)集成 NVIDIA TensorRT 帶來(lái)了顯著加速。雙方團(tuán)隊(duì)就 GPU 推理加速這一話題將進(jìn)行持續(xù)深入的合作，推出定制化的優(yōu)化方案，為業(yè)界客戶帶來(lái)顯著的性能收益。
2022-08-31 09:24:071235 騰訊云 TI 平臺(tái) TI-ONE 利用 NVIDIA Triton 推理服務(wù)器構(gòu)造高性能推理服務(wù)部署平臺(tái)，使用戶能夠非常便捷地部署包括 TNN 模型在內(nèi)的多種深度學(xué)習(xí)框架下獲得的 AI 模型，并且顯著提升推理服務(wù)的吞吐、提升 GPU 利用率。
2022-09-05 15:33:011419 螞蟻鏈 AIoT 團(tuán)隊(duì)與 NVIDIA 合作，將量化感知訓(xùn)練(QAT)技術(shù)應(yīng)用于深度學(xué)習(xí)模型性能優(yōu)化中，并通過(guò) NVIDIA TensorRT 高性能推理 SDK 進(jìn)行高效率部署， 通過(guò) INT8 推理， 吞吐量提升了 3 倍， 助力螞蟻鏈版權(quán) AI 平臺(tái)中的模型推理服務(wù)大幅降本增效。
2022-09-09 09:53:52872 NVIDIA NeMo 大型語(yǔ)言模型（LLM）服務(wù)幫助開(kāi)發(fā)者定制大規(guī)模語(yǔ)言模型；NVIDIA BioNeMo 服務(wù)幫助研究人員生成和預(yù)測(cè)分子、蛋白質(zhì)及 DNA
2022-09-22 10:42:29742 韓國(guó)先進(jìn)的移動(dòng)運(yùn)營(yíng)商構(gòu)建包含數(shù)百億個(gè)參數(shù)的大型語(yǔ)言模型，并使用 NVIDIA DGX SuperPOD 平臺(tái)和 NeMo Megatron 框架訓(xùn)練該模型。
2022-09-27 09:24:30915 隨著大型語(yǔ)言模型（ LLM ）的規(guī)模和復(fù)雜性不斷增長(zhǎng)， NVIDIA 今天宣布更新 NeMo Megatron 框架，提供高達(dá) 30% 的訓(xùn)練速度。
2022-10-10 15:39:42644 
通過(guò) NVIDIA GPU 加速平臺(tái)，Colossal-AI 實(shí)現(xiàn)了通過(guò)高效多維并行、異構(gòu)內(nèi)存管理、大規(guī)模優(yōu)化庫(kù)、自適應(yīng)任務(wù)調(diào)度等方式，更高效快速部署 AI 大模型訓(xùn)練與推理。
2022-10-19 09:39:391149 科學(xué)家使用 NVIDIA BioNeMo 創(chuàng)建出能夠生成高質(zhì)量蛋白質(zhì)的大型語(yǔ)言模型，以此加快藥物研發(fā)并助力創(chuàng)造更具可持續(xù)性的環(huán)境。 初創(chuàng)企業(yè) Evozyne 使用 NVIDIA 提供的預(yù)訓(xùn)練 AI
2023-01-13 23:15:02419 大型語(yǔ)言模型能識(shí)別、總結(jié)、翻譯、預(yù)測(cè)和生成文本及其他內(nèi)容。 AI 應(yīng)用在大型語(yǔ)言模型的幫助下，可用于解決總結(jié)文章、編寫故事和參與長(zhǎng)對(duì)話等多種繁重工作。 大型語(yǔ)言模型（LLM）是一種深度學(xué)習(xí)算法，可以
2023-02-23 19:50:043887 大型語(yǔ)言模型能識(shí)別、總結(jié)、翻譯、預(yù)測(cè)和生成文本及其他內(nèi)容。
2023-03-08 13:57:006989 為AI驅(qū)動(dòng)的應(yīng)用構(gòu)建自定義模型 ? 加利福尼亞州圣克拉拉 – GTC – 太平洋時(shí)間 2023年3月21日 – 為了加速企業(yè)應(yīng)用生成式AI，NVIDIA今日宣布推出一套云服務(wù)，使企業(yè)能夠構(gòu)建、完善
2023-03-22 13:45:40261 
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛將在 GTC 2023 上介紹生成式 AI、元宇宙、大型語(yǔ)言模型、云計(jì)算等領(lǐng)域的最新進(jìn)展。 同時(shí)黃仁勛不僅闡述了NVIDIA 在人工智能時(shí)代的諸多成就和對(duì)未來(lái)發(fā)展
2023-03-22 15:23:282900 
，NVIDIA AI Foundations云服務(wù)系列為需要構(gòu)建、完善和運(yùn)行自定義大型語(yǔ)言模型及生成式AI的客戶提供服務(wù)，他們通常使用專有數(shù)據(jù)進(jìn)行訓(xùn)練并完成特定領(lǐng)域的任務(wù)。 圖源? NVIDIA 直播截圖 Audio2Face 可以支持中文
2023-03-22 17:14:331621 
Foundations 云服務(wù)為 AI 驅(qū)動(dòng)的應(yīng)用構(gòu)建 自定義模型 加利福尼亞州圣克拉拉 – GTC – 太平洋時(shí)間 2023年3月21日 – 為了加速企業(yè)應(yīng)用生成式 AI，NVIDIA 宣布推出一套云服務(wù)，使企業(yè)
2023-03-23 06:50:04365 日 – NVIDIA 于今日推出四款推理平臺(tái)。這些平臺(tái)針對(duì)各種快速興起的生成式 AI 應(yīng)用進(jìn)行了優(yōu)化，能夠幫助開(kāi)發(fā)人員快速構(gòu)建用于提供新服務(wù)和洞察的 AI 驅(qū)動(dòng)的專業(yè)應(yīng)用。 這些平臺(tái)將 NVIDIA
2023-03-23 06:55:02654 NVIDIA 生成式 AI 推理平臺(tái)將集成至谷歌云 Vertex AI 中；谷歌云成為首家提供 NVIDIA L4 GPU 實(shí)例的云服務(wù)商 加利福尼亞州圣克拉拉 – GTC – 太平洋時(shí)間 2023
2023-03-23 06:55:02438 年 3 月 21 日 – NVIDIA 今日推出一整套用于自定義 AI 基礎(chǔ)模型的生成式 AI 云服務(wù)。這些服務(wù)將加速新蛋白質(zhì)和治療方法的創(chuàng)建以及基因組學(xué)、化學(xué)、生物學(xué)和分子動(dòng)力學(xué)等領(lǐng)域的研究。 作為
2023-03-23 06:55:03328 NVIDIA NeMo 服務(wù)幫助企業(yè)將大型語(yǔ)言模型與其專有數(shù)據(jù)相結(jié)合，賦能智能聊天機(jī)器人、客戶服務(wù)等更多應(yīng)用。 如今的大型語(yǔ)言模型知識(shí)淵博，但它們的工作方式有點(diǎn)像時(shí)間膠囊——所收集的信息僅限于第一次
2023-03-25 09:10:03274 Foundations 云服務(wù)為 AI 驅(qū)動(dòng)的應(yīng)用構(gòu)建 自定義模型 加利福尼亞州圣克拉拉 – GTC – 太平洋時(shí)間 2023年3月21日 – 為了加速企業(yè)應(yīng)用生成式 AI，NVIDIA 宣布推出一套云服務(wù)，使企業(yè)
2023-03-25 15:20:04285 在最新 MLPerf 基準(zhǔn)測(cè)試中，NVIDIA H100 和 L4 GPU 將生成式 AI 和所有其他工作負(fù)載帶到了新的水平，Jetson AGX Orin 則在性能和效率方面都有所提升。 作為獨(dú)立
2023-04-08 00:30:08389 基于 ServiceNow 平臺(tái)并采用 NVIDIA AI 軟件和 DGX 基礎(chǔ)設(shè)施構(gòu)建的自定義大型語(yǔ)言模型將為企業(yè)帶來(lái)更智能的工作流自動(dòng)化 ServiceNow 和 NVIDIA 宣布達(dá)成合作伙伴
2023-05-19 00:50:02342 
NVIDIA AI Enterprise 與 Azure 機(jī)器學(xué)習(xí)集成，提供端到端云平臺(tái)，供開(kāi)發(fā)者構(gòu)建、部署和管理大型語(yǔ)言模型的 AI 應(yīng)用 微軟 Build 大會(huì)——太平洋時(shí)間 2023
2023-05-25 09:15:02347 
?? Project Helix 使企業(yè)能夠輕松構(gòu)建和部署值得信賴的生成式 AI ?? 戴爾和 NVIDIA 的基礎(chǔ)設(shè)施與軟件包含內(nèi)置的數(shù)據(jù)安全功能，用于本地生成式 AI 應(yīng)用 戴爾科技集團(tuán)全球大會(huì)
2023-05-25 09:15:02349 行業(yè)領(lǐng)導(dǎo)者打破藩籬，使開(kāi)發(fā)人員能夠輕松地在 Windows 11 上訓(xùn)練并部署先進(jìn)的 AI 模型，并在配備 RTX 的 PC 和工作站上提供節(jié)能的推理。 生成式 AI，以 ChatGPT 等大型語(yǔ)言
2023-05-25 09:15:02509 
? 大型語(yǔ)言模型能否捕捉到它們所處理和生成的文本中的語(yǔ)義信息？這一問(wèn)題在計(jì)算機(jī)科學(xué)和自然語(yǔ)言處理領(lǐng)域一直存在爭(zhēng)議。然而，MIT的一項(xiàng)新研究表明，僅基于文本形式訓(xùn)練、用于預(yù)測(cè)下一個(gè)token的語(yǔ)言模型
2023-05-25 11:34:11434 
Switch System 驅(qū)動(dòng)的 NVIDIA DGX 超級(jí)計(jì)算機(jī) ，旨在助力開(kāi)發(fā)面向生成式 AI 語(yǔ)言應(yīng)用、推薦系統(tǒng)和數(shù)據(jù)分析工作負(fù)載的巨型、下一代模型。 NVIDIA DGX GH200 的超大共享內(nèi)存空間通過(guò) NVLink 互連技術(shù) 以及 NV
2023-05-30 01:40:011459 
全新的 NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺(tái)集 NVIDIA Spectrum-4、BlueField-3 DPU 和加速軟件于一身；全球頭部云服務(wù)提供商采用該平臺(tái)來(lái)橫向擴(kuò)展其生成式 AI
2023-05-30 01:40:02352 
搭載 Tensor Core 的 NVIDIA RTX GPU 正在加速生成式 AI 模型的開(kāi)發(fā)與部署；即將推出的 Max-Q 低功耗 AI 推理將提高能效比。 生成式 AI 正在迅速開(kāi)創(chuàng)一個(gè)計(jì)算
2023-05-31 03:50:02344 隨著越來(lái)越多的 AI 推理在本地設(shè)備上運(yùn)行，工作站將需要強(qiáng)大而高效的硬件以支持這些復(fù)雜的任務(wù)。為了滿足這一需求，RTX GPU 將添加用于 AI 工作負(fù)載的 Max-Q 低功耗推理。在執(zhí)行輕量級(jí)
2023-06-07 14:55:24442 
本文旨在更好地理解基于 Transformer 的大型語(yǔ)言模型（LLM）的內(nèi)部機(jī)制，以提高它們的可靠性和可解釋性。 隨著大型語(yǔ)言模型（LLM）在使用和部署方面的不斷增加，打開(kāi)黑箱并了解它們的內(nèi)部
2023-06-25 15:08:49991 
?? 大型語(yǔ)言模型（LLM） 是一種深度學(xué)習(xí)算法，可以通過(guò)大規(guī)模數(shù)據(jù)集訓(xùn)練來(lái)學(xué)習(xí)識(shí)別、總結(jié)、翻譯、預(yù)測(cè)和生成文本及其他內(nèi)容。大語(yǔ)言模型（LLM）代表著 AI 領(lǐng)域的重大進(jìn)步，并有望通過(guò)習(xí)得的知識(shí)改變
2023-07-05 10:27:351463 使用集成模型在 NVIDIA Triton 推理服務(wù)器上為 ML 模型管道提供服務(wù)
2023-07-05 16:30:341082 
通過(guò)降低認(rèn)知負(fù)載和為即時(shí)管理、工單系統(tǒng)和代碼生成等任務(wù)提供支持，人工智能（AI）和大型語(yǔ)言模型（LLMs）可能在云計(jì)算和 DevOps 領(lǐng)域發(fā)揮重要作用。主要的云計(jì)算供應(yīng)商，如微軟、谷歌和亞馬遜云科技等，已經(jīng)將 AI 集成到他們的產(chǎn)品和服務(wù)中，充分展示了行業(yè)在 AI 技術(shù)上的投入。
2023-08-03 15:26:42813 
年 8 月 8 日 — NVIDIA 與 Hugging Face 宣布建立合作伙伴關(guān)系，為數(shù)百萬(wàn)開(kāi)發(fā)者提供生成式 AI 超級(jí)計(jì)算服務(wù)，幫助他們構(gòu)建大語(yǔ)言模型（LLM）和其他高級(jí) AI 應(yīng)用。 ? 此次
2023-08-09 11:41:59100 
計(jì)算密集型的復(fù)雜應(yīng)用，包括 AI 訓(xùn)練與推理、3D 設(shè)計(jì)與可視化、視頻處理以及工業(yè)數(shù)字化等。 這款全新 GPU 將加速生成式 AI 的計(jì)算工作負(fù)載。生成式 A
2023-08-09 19:10:06264 從 PC 和工作站到企業(yè)數(shù)據(jù)中心、公有云和 NVIDIA DGX 云，新推出的開(kāi)發(fā)者套件在 NVIDIA AI 平臺(tái)上引入了簡(jiǎn)化的模型優(yōu)化與部署。 洛杉磯 — SIGGRAPH — 太平洋時(shí)間
2023-08-09 19:10:09261 2023年8月8日，NVIDIA創(chuàng)始人兼CEO黃仁勛在計(jì)算機(jī)圖形年會(huì)SIGGRAPH上發(fā)布了HBM3e內(nèi)存新一代GH200 Grace Hopper超級(jí)芯片。這款芯片被黃仁勛稱為“加速計(jì)算和生成式AI時(shí)代的處理器”，旨在用于任何大型語(yǔ)言模型，以降低推理成本。
2023-08-11 16:29:17767 近日，清華大學(xué)新聞與傳播學(xué)院發(fā)布了《大語(yǔ)言模型綜合性能評(píng)估報(bào)告》，該報(bào)告對(duì)目前市場(chǎng)上的7個(gè)大型語(yǔ)言模型進(jìn)行了全面的綜合評(píng)估。近年，大語(yǔ)言模型以其強(qiáng)大的自然語(yǔ)言處理能力，成為AI領(lǐng)域的一大熱點(diǎn)。它們
2023-08-10 08:32:01607 
這些性能強(qiáng)大的新系統(tǒng)將利用 NVIDIA Omniverse 平臺(tái)加速高計(jì)算密集度的復(fù)雜應(yīng)用，包括 AI 訓(xùn)練和推理、3D 設(shè)計(jì)和可視化、視頻處理、工業(yè)數(shù)字化等。
2023-08-23 14:20:18224 全新 VMware Private AI Foundation With NVIDIA 幫助企業(yè)為生成式 AI 在業(yè)務(wù)中的應(yīng)用做好準(zhǔn)備；該平臺(tái)將在數(shù)據(jù)隱私性、安全性和可控性方面提供進(jìn)一步支持
2023-08-23 19:10:07446 
戴爾科技、慧與和聯(lián)想即將推出采用 NVIDIA L40S GPU 和 NVIDIA BlueField 的服務(wù)器，以支持 VMware Private AI Foundation
2023-08-23 19:10:09350 今天，Meta發(fā)布了Code Llama，一款可以使用文本提示生成代碼的大型語(yǔ)言模型（LLM）。
2023-08-25 09:06:57885 
兩家 AI 領(lǐng)軍企業(yè)一同優(yōu)化谷歌云，使更多生成式 AI 領(lǐng)域的初創(chuàng)企業(yè)能夠構(gòu)建下一代應(yīng)用。 生成式 AI 和大語(yǔ)言模型（LLM）不斷推動(dòng)創(chuàng)新，使訓(xùn)練和推理工作的算力需求以驚人的速度增長(zhǎng)。 為了滿足
2023-08-31 13:00:03230 
生成式AI和大語(yǔ)言模型（LLM）正在以難以置信的方式吸引全世界的目光，本文簡(jiǎn)要介紹了大語(yǔ)言模型，訓(xùn)練這些模型帶來(lái)的硬件挑戰(zhàn)，以及GPU和網(wǎng)絡(luò)行業(yè)如何針對(duì)訓(xùn)練的工作負(fù)載不斷優(yōu)化硬件。
2023-09-01 17:14:561046 
化。有Redis加持的大語(yǔ)言模型可應(yīng)用于文檔檢索、虛擬購(gòu)物助手、客戶服務(wù)助理等，為企業(yè)帶來(lái)益處。 一、語(yǔ)言模型構(gòu)件 應(yīng)用程序生成、理解和使用人類語(yǔ)言的能力正變得越來(lái)越重要，從客服機(jī)器人到虛擬助手，再到內(nèi)容生成，人們對(duì)AI應(yīng)用功能的需求橫跨眾多領(lǐng)
2023-09-18 11:26:49316 
生成式 AI 和大語(yǔ)言模型（LLM）不斷推動(dòng)突破性創(chuàng)新，訓(xùn)練和推理對(duì)算力的需求也隨之急劇上升。 這些現(xiàn)代生成式 AI 應(yīng)用需要全棧加速計(jì)算，首先要有能夠快速、準(zhǔn)確處理大量工作負(fù)載的先進(jìn)基礎(chǔ)設(shè)施
2023-09-25 20:40:02269 
基于 NVIDIA Jetson 平臺(tái)進(jìn)行開(kāi)發(fā)的 1 萬(wàn)多家公司現(xiàn)在可以利用全新的生成式 AI、API 和微服務(wù)來(lái)加快推進(jìn)行業(yè)數(shù)字化 ? ? 強(qiáng)大的生成式 AI 模型、云原生應(yīng)用程序接口（ API
2023-10-19 17:16:24121 
務(wù)已應(yīng)用于邊緣。 生成式 AI 正在將 Transformer 模型和大語(yǔ)言模型的強(qiáng)大力量帶到各行各業(yè)，應(yīng)用范圍現(xiàn)已擴(kuò)展到邊緣、機(jī)器人和物流系統(tǒng)相關(guān)領(lǐng)域，如缺陷檢測(cè)、實(shí)時(shí)資產(chǎn)追蹤、自主規(guī)劃和導(dǎo)航以及人機(jī)交互等。 NVIDIA 今日宣布，對(duì)適用于邊緣 AI 和機(jī)器人的? NVIDIA Jetson ?平臺(tái)上的兩個(gè)框
2023-10-20 02:05:02320 
OCI 在業(yè)內(nèi)率先擴(kuò)展了企業(yè)對(duì) NVIDIA DGX 云 AI 超級(jí)計(jì)算平臺(tái)和 NVIDIA AI Enterprise 軟件的訪問(wèn)權(quán)限。 訓(xùn)練生成式 AI 模型變得更容易了。 NVIDIA DGX
2023-10-24 10:30:02206 
由 CSDN 舉辦的 NVIDIA AI Inference Day - 大模型推理線上研討會(huì)，將幫助您了解 NVIDIA 開(kāi)源大型語(yǔ)言模型（LLM）推理加速庫(kù) TensorRT-LLM ?及其功能
2023-10-26 09:05:02174 NVIDIA 于 2023 年 10 月 19 日公開(kāi)發(fā)布 TensorRT-LLM ，可在 NVIDIA GPU 上加速和優(yōu)化最新的大語(yǔ)言模型（Large Language Models）的推理
2023-10-27 20:05:02478 
芯片工程師展示了一個(gè)高度專業(yè)化的行業(yè)如何使用 NVIDIA NeMo 來(lái)定制大語(yǔ)言模型，以獲得競(jìng)爭(zhēng)優(yōu)勢(shì)。 ? ? 10 月 31 日，NVIDIA?????? 發(fā)布的一篇研究論文描述了生成式 AI
2023-11-01 14:45:08141 
全新 NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺(tái)構(gòu)筑阿里生成式 AI 云底座。
2023-11-02 09:07:25300 
上以交互速率運(yùn)行的 Llama-2-70B 模型。 圖 1. 領(lǐng)先的生成式 AI 模型在? Jetson AGX Orin 上的推理性能 如要在 Jetson 上快速測(cè)試最新的模型和應(yīng)用，請(qǐng)使用 Jetson 生成式 AI 實(shí)驗(yàn)室提供的教程和資源。
2023-11-07 21:25:01398 
Tensor Core GPU 和領(lǐng)先的顯存配置，可處理生成式 AI 與高性能計(jì)算工作負(fù)載的海量數(shù)據(jù)。 ? NVIDIA H200 是首款采用 HBM3e 的 GPU，其運(yùn)行更快、更大的顯存容量將進(jìn)一步加速生成式 AI 與大語(yǔ)言模型，同時(shí)
2023-11-14 14:30:0185 
再添新動(dòng)力。 NVIDIA H200 是首款采用 HBM3e 的 GPU，其運(yùn)行更快、更大的顯存容量將進(jìn)一步加速生成式 AI 與大語(yǔ)言模型，同時(shí)推進(jìn)用于 HPC 工作負(fù)載的科學(xué)計(jì)算。憑借 HBM3e
2023-11-14 20:05:01269 
Models、NVIDIA NeMo? 框架和工具，以及 NVIDIA DGX? 云 AI 超算服務(wù)三大要素，為企業(yè)提供創(chuàng)建自定義生成式 AI 模型
2023-11-16 14:13:08116 
AI Enterprise 軟件進(jìn)行部署 NVIDIA 于今日推出一項(xiàng) AI foundry 服務(wù)，助力企業(yè)和初創(chuàng)公司在 Microsoft Azure 上開(kāi)發(fā)、調(diào)優(yōu)和部署其自定義生成式 AI
2023-11-16 21:15:02270 的業(yè)務(wù)數(shù)據(jù)進(jìn)行自定義。 如今，免費(fèi)、開(kāi)源的大語(yǔ)言模型對(duì)企業(yè)來(lái)說(shuō)就像是一頓“自助餐”。但對(duì)于構(gòu)建自定義生成式 AI 應(yīng)用的開(kāi)發(fā)者來(lái)說(shuō)，這頓“大餐”可能會(huì)讓他們應(yīng)接不暇，因?yàn)樗麄冃枰獫M足各種不同的項(xiàng)目和業(yè)務(wù)
2023-11-16 21:15:02312 
— 太平洋時(shí)間 2023 年 11 月 28 日 — NVIDIA 今日宣布推出一項(xiàng)生成式 AI 微服務(wù)，支持企業(yè)將自定義大語(yǔ)言模型與企業(yè)數(shù)據(jù)相連接，使其 AI 應(yīng)用能夠提供高度準(zhǔn)確的響應(yīng)
2023-11-29 14:37:12121 
微服務(wù)，支持企業(yè)將自定義大語(yǔ)言模型與企業(yè)數(shù)據(jù)相連接，使其 AI 應(yīng)用能夠提供高度準(zhǔn)確的響應(yīng)。 NVIDIA NeMo Retriever 是 NVIDIA NeMo （一個(gè)用于構(gòu)建、自定義和部署生成
2023-11-29 21:05:02340 GPU 和海量的數(shù)據(jù)集上所訓(xùn)練而成。 不過(guò)這可能會(huì)給想要使用生成式 AI 的企業(yè)帶來(lái)很多巨大的挑戰(zhàn)。 NVIDIA NeMo （一個(gè)用于構(gòu)建、自定義和運(yùn)行 LLM 的框架）能夠幫助企業(yè)克服上述挑戰(zhàn)
2023-11-29 21:15:02295 
本文基于亞馬遜云科技推出的大語(yǔ)言模型與生成式AI的全家桶：Bedrock對(duì)大語(yǔ)言模型進(jìn)行介紹。大語(yǔ)言模型指的是具有數(shù)十億參數(shù)（B+）的預(yù)訓(xùn)練語(yǔ)言模型（例如：GPT-3, Bloom, LLaMA)。這種模型可以用于各種自然語(yǔ)言處理任務(wù)，如文本生成、機(jī)器翻譯和自然語(yǔ)言理解等。
2023-12-04 15:51:46356 安霸在CES 2024上發(fā)布了全新的N1系列生成式AI芯片，這是一款專門為前端設(shè)備設(shè)計(jì)的芯片，支持本地運(yùn)行大型語(yǔ)言模型（LLM）應(yīng)用。其單顆SoC能夠支持1至340億參數(shù)的多模態(tài)大模型（Multi-Modal LLM）推理，從而實(shí)現(xiàn)低功耗的生成式AI功能。
2024-01-09 15:32:54602 NVIDIA 即將推出一項(xiàng)新的生成式 AI 專業(yè)認(rèn)證，助力開(kāi)發(fā)者在這一重要領(lǐng)域證明自身技術(shù)實(shí)力。
2024-03-14 09:43:34286 NVIDIA 的 AI 平臺(tái)適用于任何高瞻遠(yuǎn)矚的企業(yè)使用，而且比以往任何時(shí)候都更加易于應(yīng)用。
2024-03-21 09:39:27109 NVIDIA Isaac 機(jī)器人平臺(tái)利用最新的生成式 AI 和先進(jìn)的仿真技術(shù)，加速 AI 機(jī)器人技術(shù)的發(fā)展。
2024-03-22 10:06:2156 
正在加载...
電子發(fā)燒友App
工商網(wǎng)監(jiān)
評(píng)論