完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>
標簽 > 模型
文章:2244個 瀏覽:48807次 帖子:150個
NVIDIA TensorRT-LLM 是一個專為優(yōu)化大語言模型 (LLM) 推理而設計的庫。它提供了多種先進的優(yōu)化技術,包括自定義 Attention...
近期智譜發(fā)布了其最新的GLM-Edge系列SLM模型,GLM-Edge 系列是智譜在面向端側(cè)真實落地使用的場景下的一次嘗試,由兩種尺寸的大語言對話模型和...
MATLAB之基于模型設計助力智能家電可持續(xù)創(chuàng)新
? 隨著生活水平的提高,消費者對智能家電的需求日益趨向智能化、個性化和綠色環(huán)保。智能家電企業(yè)面臨快速功能創(chuàng)新、多領域系統(tǒng)優(yōu)以及 AI 技術融合等研發(fā)挑戰(zhàn)...
AIGC系統(tǒng)中多個模型的切換調(diào)用方案探索
作者:京東科技 賈玉龍 1 背景 1.1 現(xiàn)狀 AIGC系統(tǒng)中多個模型的切換調(diào)用通常指的是在同一個AIGC系統(tǒng)或應用中,可以根據(jù)不同的輸入條件或任務需求...
本文主要介紹了 FP8 數(shù)據(jù)格式在大型模型訓練中的應用、挑戰(zhàn)及最佳實踐,展示了 FP8 在提升訓練速度和效率方面的潛力和實際效果。
2024-11-19 標簽:NVIDIA數(shù)據(jù)格式模型 243 0
本文將分享 TensorRT-LLM 中低精度量化內(nèi)容,并從精度和速度角度對比 FP8 與 INT8。首先介紹性能,包括速度和精度。其次,介紹量化工具 ...
2024-11-19 標簽:數(shù)據(jù)NVIDIA模型 264 0
PyTorch 是一個流行的開源機器學習庫,廣泛用于計算機視覺和自然語言處理等領域。它提供了強大的計算圖功能和動態(tài)圖特性,使得模型的構建和調(diào)試變得更加靈...
OpenCV4.8 Java SDK實現(xiàn)YOLOv5模型部署
Java 開發(fā)的IDE,推薦選擇IDEA這個,真的比較好用,我下載的是社區(qū)版,免費可用。
流水線中Half-Buffer與Skid-Buffer的使用
引發(fā)上述問題的原因是未能及時阻塞之前的流水線,再深究其原因,是因為其輸入側(cè)和輸出側(cè)的握手允許在相同時鐘周期完成,所以阻塞的信息沒有同步到上級。
使用OpenVINO Model Server在哪吒開發(fā)板上部署模型
OpenVINO Model Server(OVMS)是一個高性能的模型部署系統(tǒng),使用C++實現(xiàn),并在Intel架構上的部署進行了優(yōu)化,使用OpenVI...
在《創(chuàng)新不止|Xpedition 2409版本新功能揭秘(上)》一文中,我們了解了Xpedition 2409版本的部分改進部分。今天,我們繼續(xù)看Xpe...
近年來,隨著渦旋光束和空間結構光場的發(fā)展或應用,渦旋光束軌道角動量(OAM)的檢測成為重要的課題。本文基于空間光調(diào)制器(SLM)的全息衍射光柵方法,通過...
2024-10-31 標簽:光柵空間光調(diào)制器模型 209 0
編輯推薦廠商產(chǎn)品技術軟件/工具OS/語言教程專題
電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術 | Microchip |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |