電子發(fā)燒友App
創(chuàng)作
發(fā)文章
發(fā)帖 
提問 
發(fā)資料
發(fā)視頻資料介紹
軟件簡介
LightSeq 是一個(gè)高性能的訓(xùn)練和推理庫，用于在 CUDA 中實(shí)現(xiàn)序列處理和生成。它可以高效計(jì)算現(xiàn)代 NLP 模型，例如BERT、GPT、?Transformer等。因此，它最適用于機(jī)器翻譯、文本生成、對(duì)話、語言建模、情感分析和其他具有序列數(shù)據(jù)的相關(guān)任務(wù)。
該庫建立在 CUDA 官方庫（cuBLAS、Thrust、CUB）和自定義內(nèi)核函數(shù)之上，?這些函數(shù)專門為 Transformer 模型系列融合和優(yōu)化。除了模型組件，推理庫還提供了基于?TensorRT 推理服務(wù)器的易于部署的模型管理和服務(wù)后端?。使用 LightSeq，只需少量額外代碼即可輕松開發(fā)修改后的 Transformer 架構(gòu)。
特征
以下是 LightSeq?訓(xùn)練庫支持的矩陣與?DeepSpeed?對(duì)比。
以下是 LightSeq 推理庫支持矩陣與?TurboTransformers?和?FasterTransformer?的對(duì)比。
下載該資料的人也在下載
下載該資料的人還在閱讀
更多 >
- 面向動(dòng)態(tài)三維重建的地圖序列快速生成方法 9次下載
- 基于MapReduce的時(shí)間序列索引及數(shù)據(jù)查詢 7次下載
- 基于語義感知的中文短文本摘要生成技術(shù) 2次下載
- 高性能嵌入式堆棧Azure PTOS USBX概述 10次下載
- Holtek觸摸開發(fā)庫生成使用說明 8次下載
- 高性能低成本的藍(lán)牙模塊CSR6576原理圖 16次下載
- 基于雙序列函數(shù)的web服務(wù)端防御方案 3次下載
- keil4等可使用的序列號(hào)生成器工具下載 91次下載
- dsPIC DSC DTMF 生成庫的詳細(xì)中文資料概述
- 用于寬帶無線語音鏈路的高性能、低延遲、低功率音頻處理系統(tǒng)
- 支持COC的低層高性能通信庫
- 基于混沌序列的種子密鑰表生成方法
- Galileo系統(tǒng)偽隨機(jī)序列生成及其FPGA實(shí)現(xiàn)
- 生成de Bruijn序列的升級(jí)算法
- 生成de Bruijn序列的消元算法
- 澎峰科技高性能計(jì)算庫PerfIPP介紹 235次閱讀
- 帶你了解什么是高性能計(jì)算（HPC） 277次閱讀
- 高性能芯片有哪些特征？ 753次閱讀
- 如何使用Serde進(jìn)行序列化和反序列化 1149次閱讀
- Prost的最佳實(shí)踐經(jīng)驗(yàn) 1101次閱讀
- 螞蟻集團(tuán)開源高性能多語言序列化框架Fury解讀 995次閱讀
- 高性能數(shù)學(xué)計(jì)算庫的現(xiàn)狀 1323次閱讀
- 關(guān)于HPC的高性能計(jì)算測(cè)試方法 2112次閱讀
- 一個(gè)高性能異步計(jì)算框架介紹 710次閱讀
- 基于OpenAI的GPT-2的語言模型ProtGPT2可生成新的蛋白質(zhì)序列 1742次閱讀
- 適用于高性能系統(tǒng)設(shè)計(jì)的ADS5294的性能特性及應(yīng)用 2164次閱讀
- UVM序列的創(chuàng)建和運(yùn)行及中斷服務(wù)程序?qū)崿F(xiàn)方案 3998次閱讀
- 高性能紙幣處理系統(tǒng)設(shè)計(jì)的仿真優(yōu)化資料說明 3328次閱讀
- 如何滿足高性能時(shí)鐘IC需求 4529次閱讀
- 高性能的視頻采集電路圖 4455次閱讀
上傳資料賺積分下載排行
本周
- 1山景DSP芯片AP8248A2數(shù)據(jù)手冊(cè)
- 1.06 MB | 532次下載 | 免費(fèi)
- 2RK3399完整板原理圖（支持平板，盒子VR）
- 3.28 MB | 339次下載 | 免費(fèi)
- 3TC358743XBG評(píng)估板參考手冊(cè)
- 1.36 MB | 330次下載 | 免費(fèi)
- 4DFM軟件使用教程
- 0.84 MB | 295次下載 | 免費(fèi)
- 5元宇宙深度解析—未來的未來-風(fēng)口還是泡沫
- 6.40 MB | 227次下載 | 免費(fèi)
- 6迪文DGUS開發(fā)指南
- 31.67 MB | 194次下載 | 免費(fèi)
- 7元宇宙底層硬件系列報(bào)告
- 13.42 MB | 182次下載 | 免費(fèi)
- 8FP5207XR-G1中文應(yīng)用手冊(cè)
- 1.09 MB | 178次下載 | 免費(fèi)
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費(fèi)
- 2555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33566次下載 | 免費(fèi)
- 3接口電路圖大全
- 未知 | 30323次下載 | 免費(fèi)
- 4開關(guān)電源設(shè)計(jì)實(shí)例指南
- 未知 | 21549次下載 | 免費(fèi)
- 5電氣工程師手冊(cè)免費(fèi)下載(新編第二版pdf電子書)
- 0.00 MB | 15349次下載 | 免費(fèi)
- 6數(shù)字電路基礎(chǔ)pdf(下載)
- 未知 | 13750次下載 | 免費(fèi)
- 7電子制作實(shí)例集錦 下載
- 未知 | 8113次下載 | 免費(fèi)
- 8《LED驅(qū)動(dòng)電路設(shè)計(jì)》 溫德爾著
- 0.00 MB | 6656次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935054次下載 | 免費(fèi)
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537798次下載 | 免費(fèi)
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420027次下載 | 免費(fèi)
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費(fèi)
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費(fèi)
- 6電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191187次下載 | 免費(fèi)
- 7十天學(xué)會(huì)AVR單片機(jī)與C語言視頻教程 下載
- 158M | 183279次下載 | 免費(fèi)
- 8proe5.0野火版下載(中文版免費(fèi)下載)
- 未知 | 138040次下載 | 免費(fèi)
工商網(wǎng)監(jiān)
評(píng)論