完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > llm
在人工智能領域，LLM代表“大型語言模型”。在人工智能（AI）領域自然語言處理（NLP）是一個快速進展的領域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學習和自然語言處理技術的模型。
文章：284個 瀏覽：327次 帖子：3個
什么是LlamaIndex？LlamaIndex數據框架的特點和功能
LlamaIndex是一個數據框架，用于讓基于LLM的應用程序攝取、結構化和訪問私有或領域特定的數據。它提供Python和Typescript版本。
隨著人工智能技術的飛速發展，大型語言模型（Large Language Model，簡稱LLM）逐漸成為自然語言處理（NLP）領域的研究熱點。LLM以其...
MQA (Multi Query Attention，多查詢注意力) 是多頭注意力的一種變體。其主要區別在于，在 MQA 中不同的注意力頭共享一個K和V...
ChatGPT、Midjourney等生成式人工智能（GenAI）在文本生成、文本到圖像生成等任務中表現出令人印象深刻的性能。
單模態大模型，通常大于100M～1B參數。具有較強的通用性，比如對圖片中任意物體進行分割，或者生成任意內容的圖片或聲音。極大降低了場景的定制成本。
LLM底座模型：LLaMA、Palm、GLM、BLOOM、GPT結構對比
使用RMSNorm（即Root Mean square Layer Normalization）對輸入數據進行標準化，RMSNorm可以參考論文：Roo...
本文將分享如何將最新的端側大語言模型部署到超高性價比SoC上，向業界對端側大模型部署的開發者提供一種新的思路。
這是任何RAG流程的最后一步——基于我們仔細檢索的所有上下文和初始用戶查詢生成答案。最簡單的方法可能是將所有獲取到的上下文（超過某個相關性閾值的）連同查...
LLM 中非常重要的一個概念是 Token，我們輸入給 LLM 和它輸出的都是 Token。Token 在這里可以看做語言的基本單位，中文一般是詞或字（...
中國研究人員提出StructGPT，提高LLM對結構化數據的零樣本推理能力
盡管結構化數據的體量往往非常巨大，但不可能容納輸入提示中的所有數據記錄（例如，ChatGPT 的最大上下文長度為 4096）。將結構化數據線性化為 LL...
目前大部分開源LLM模型都是基于transformers庫來做的，它們的結構大部分都和Llama大同小異。
0x0. 前言 我的 ChatRWKV 學習筆記和使用指南 這篇文章是學習RWKV的第一步，然后學習了一下之后決定自己應該做一些什么。所以就在RWKV社...
隨著ChatGPT的快速發展，基于Transformer的大型語言模型(LLM)為人工通用智能(AGI)鋪平了一條革命性的道路，并已應用于知識庫、人機界...
LLM推理加速新范式！推測解碼（Speculative Decoding）最新綜述
這個問題隨著LLM規模的增大愈發嚴重。并且，如下左圖所示，目前LLM常用的自回歸解碼（autoregressive decoding）在每個解碼步只能生...
近年來，像 GPT-4 這樣的大型語言模型 （LLM） 因其在自然語言理解和生成方面的驚人能力而受到廣泛關注。但是，要根據特定任務或領域定制LLM，定制...
大多數人對于 LLM 的“親密度”，可能最多就是拉個開源的 demo 跑下推理過程，得到個“意料之中”的結果，然后很諷刺地自 high 一把：WOW~ ...
使用基于Transformers的API在CPU上實現LLM高效推理
英特爾 Extension for Transformers是英特爾推出的一個創新工具包，可基于英特爾 架構平臺，尤其是第四代英特爾 至強 可擴展處理器...
近期，openEuler A-Tune SIG在openEuler 23.09版本引入llama.cpp&chatglm-cpp兩款應用，以支持...
向量數據庫是一種以向量嵌入（高維向量）方式存儲和管理非結構化數據（如文本、圖像或音頻）的數據庫，以便于快速查找和檢索類似對象。
internal feedback：使用LLM去預測生成的plan取得成功的概率、Tree of Thought去對比不同的plan（有點類似Alpha...
換一批
編輯推薦廠商產品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯網 | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發電 | UPS | AR | 智能電網 | 國民技術 | Microchip |
| 開關電源 | 步進電機 | 無線充電 | LabVIEW | EMC | PLC | OLED | 單片機 |
| 5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
| NB-IoT | LoRa | Zigbee | NFC | 藍牙 | RFID | Wi-Fi | SIGFOX |
| Type-C | USB | 以太網 | 仿真器 | RISC | RAM | 寄存器 | GPU |
| 語音識別 | 萬用表 | CPLD | 耦合 | 電路仿真 | 電容濾波 | 保護電路 | 看門狗 |
| CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
| SDI | nas | DMA | HomeKit | 閾值電壓 | UART | 機器學習 | TensorFlow |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發燒友APP
電子發燒友觀察
版權所有 ? 湖南華秋數字科技有限公司
長沙市望城經濟技術開發區航空路6號手機智能終端產業園2號廠房3層（0731-88081133）
電子發燒友 （電路圖） 湘公網安備43011202000918
工商網監
湘ICP備2023018690號-1
