完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>
標(biāo)簽 > LLM
在人工智能領(lǐng)域,LLM代表“大型語言模型”。在人工智能(AI)領(lǐng)域自然語言處理(NLP)是一個快速進(jìn)展的領(lǐng)域。NLP中最重要是大語言模型(LLM)。大語言模型(英文:Large Language Model,縮寫LLM),也稱大型語言模型,是一種基于機(jī)器學(xué)習(xí)和自然語言處理技術(shù)的模型。
文章:316個 瀏覽:673次 帖子:3個
隨著人工智能技術(shù)的飛速發(fā)展,大型語言模型(Large Language Model,簡稱LLM)逐漸成為自然語言處理(NLP)領(lǐng)域的研究熱點。LLM以其...
什么是LlamaIndex?LlamaIndex數(shù)據(jù)框架的特點和功能
LlamaIndex是一個數(shù)據(jù)框架,用于讓基于LLM的應(yīng)用程序攝取、結(jié)構(gòu)化和訪問私有或領(lǐng)域特定的數(shù)據(jù)。它提供Python...
2024-01-05 標(biāo)簽:接口SQL數(shù)據(jù)庫 1.1萬 0
高級檢索增強(qiáng)生成技術(shù)(RAG)全面指南
ChatGPT、Midjourney等生成式人工智能(GenAI)在文本生成、文本到圖像生成等任務(wù)中表現(xiàn)出令人印象深刻的性能。
2023-12-25 標(biāo)簽:轉(zhuǎn)換器人工智能RAG算法 5927 0
單模態(tài)大模型,通常大于100M~1B參數(shù)。具有較強(qiáng)的通用性,比如對圖片中任意物體進(jìn)行分割,或者生成任意內(nèi)容的圖片或聲音。極大降低了場景的定制成本。
LLM底座模型:LLaMA、Palm、GLM、BLOOM、GPT結(jié)構(gòu)對比
使用RMSNorm(即Root Mean square Layer Normalization)對輸入數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化,RMSNorm可以參考論文:R...
2023-05-19 標(biāo)簽:電源優(yōu)化器GPTBPEKF算法 4538 0
LLM推理加速新范式!推測解碼(Speculative Decoding)最新綜述
這個問題隨著LLM規(guī)模的增大愈發(fā)嚴(yán)重。并且,如下左圖所示,目前LLM常用的自回歸解碼(autoregressive decoding)在每個解碼步只能生...
基于AX650N/AX630C部署端側(cè)大語言模型Qwen2
本文將分享如何將最新的端側(cè)大語言模型部署到超高性價比SoC上,向業(yè)界對端側(cè)大模型部署的開發(fā)者提供一種新的思路。
LLM推理上的DeepSpeed Inference優(yōu)化實踐方案
首先將 batch 拆分為 micro-batch,其中 micro-batch 數(shù)等于 pipeline 深度,micro-batch通過動態(tài)隊列的順...
它包括Megatron方面的進(jìn)步,這是一個由 NVIDIA 研究人員領(lǐng)導(dǎo)的開源項目,旨在開發(fā)有效培訓(xùn)法學(xué)碩士的技術(shù)。企業(yè...
如何打造BEV + Transformer的技術(shù)架構(gòu)?
這個架構(gòu)的輸入,是多個相機(jī)拍攝的圖像,輸出則是自動駕駛的一系列任務(wù),當(dāng)中包含了動態(tài)障礙物的檢測和預(yù)測,靜態(tài)場景的理解,以及這兩個基礎(...
2022-11-18 標(biāo)簽:嵌入式自動駕駛Transformer 6607 0
趁著ChatGPT這一熱門話題還未消退,我們來聊一聊這類大規(guī)模語言模型(LLM)或通用人工智能(AGI)背后的細(xì)節(jié)。畢竟目前相關(guān)的概念股跟風(fēng)大漲,但...
探索ChatGLM2在算能BM1684X上INT8量化部署,加速大模型商業(yè)落地
1.背景介紹在2023年7月時我們已通過靜態(tài)設(shè)計方案完成了ChatGLM2-6B在單顆BM1684X上的部署工作,量化模式F16,模型大小12GB,平均...
實戰(zhàn)案例 | 眺望RK3588 RKLLM部署DeepSeek-R1全流程
前言:在RK3588上部署Deepseek有兩種方法,分別是使用Ollama工具部署和使用瑞芯微官方的RKLLM量化部署。Ollama是一個開源的大模型...
單日獲客成本超20萬,國產(chǎn)大模型開卷200萬字以上的長文本處理
電子發(fā)燒友網(wǎng)報道(文/周凱揚)隨著AGI生態(tài)的蓬勃發(fā)展,各種支持多模態(tài)的大模型推陳出新,比如最近比較火的音樂大模型Suno和文生視頻大模型Sora等等。...
用數(shù)值的高低來判斷自動駕駛水平的高低,至少需要有相似的比較前提。如果運行的區(qū)間、處理任務(wù)的能力存在巨大差別,那么兩套方案的難度和價值,很難直接通過L2/...
隨著人工智能技術(shù)的飛速發(fā)展,自然語言處理(NLP)領(lǐng)域迎來了革命性的進(jìn)步。其中,大型語言模型(LLM)的出現(xiàn),標(biāo)志著我們對語言理解能力的...
2024-11-19 標(biāo)簽:模型深度學(xué)習(xí)自然語言處理 3261 0
對于任何沒有額外微調(diào)和強(qiáng)化學(xué)習(xí)的預(yù)訓(xùn)練大型語言模型來說,用戶得到的回應(yīng)質(zhì)量可能參差不齊,并且可能包括冒犯性的語言和觀...
2023-04-24 標(biāo)簽:語言模型數(shù)據(jù)集GitHub 2798 0
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題 教程专题
電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺 | 無人機(jī) | 三菱電機(jī) | ST |
伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |