Hugging Face LLM部署大語言模型到亞馬遜云科技Amazon SageMaker推理示例

?本篇文章主要介紹如何使用新的Hugging Face LLM推理容器將開源LLMs，比如BLOOM大型語言模型部署到亞馬遜云科技Amazon Sage...

2023-11-01 標簽：語言模型亞馬遜LLM 945 0

探索SFT訓練策略對性能的影響

大模型混合多種能力項數據進行微調時，會呈現高資源沖突，低資源增益的現象。我們提出的DMT策略通過在第一階段微調特定能力數據，在第二階段微調通用數據+少量...

2023-10-26 標簽：數據語言模型SFT 1183 0

揭秘編碼器與解碼器語言模型

Transformer 架構的問世標志著現代語言大模型時代的開啟。自 2018 年以來，各類語言大模型層出不窮。

2023-10-24 標簽：解碼器編碼器語言模型 760 0

基于PyTorch的模型并行分布式訓練Megatron解析

NVIDIA Megatron 是一個基于 PyTorch 的分布式訓練框架，用來訓練超大Transformer語言模型，其通過綜合應用了數據并行，Te...

2023-10-23 標簽：NVIDIA源碼模型 3081 0

開源LLEMMA發布：超越未公開的頂尖模型，可直接應用于工具和定理證明

但LLEMMA的出現改變了這一局面。它不僅在MATH基準測試上創下了新高，甚至超越了某些還未對外公開的頂尖模型，如Minerva。更讓人欣喜的是，LLE...

2023-10-22 標簽：模型語言模型python 768 0

在RTX 4090被限制的時代下，讓大模型使用RLHF更高效的方法來了

今年，以 ChatGPT 為首的大語言模型（Large Language Models, LLMs) 在各個方面大放光彩，由此引發了學術界和商業界對 G...

2023-10-22 標簽：語言模型ChatGPT大模型 538 0

谷歌重磅新作PaLI-3：視覺語言新模型！更小、更快、更強

效果怎么樣呢？PaLI-3 在需要視覺定位文本理解和目標定位的任務上實現了新的 SOTA，包括 RefCOCO 數據集上的 8 個視覺定位文本理解任務和...

2023-10-20 標簽：編碼器語言模型大模型 2134 0

高性能計算與多模態處理的探索之旅：英偉達GH200性能優化與GPT-4V的算力加速未來

隨著人工智能技術的不斷發展，多模態大模型成為越來越重要的發展趨勢。GPT-4V（GPT-4 近日開放的視覺模態）大型多模型（LMMs）擴展大型語言模型（...

2023-10-19 標簽：人工智能語言模型英偉達 1342 0

CPU后端和CUDA后端的執行代碼和效果

下面展示一下在 https://github.com/BBuf/RWKV-World-HF-Tokenizer 做的自定義實現的RWKV world t...

2023-10-16 標簽：人工智能語言模型數據集 981 0

ChatGPT是怎么實現的

ChatGPT 能夠自動生成類似于人類寫作的文本，這一點非常引人注目，也令人意外。但它是如何實現的？為什么它能夠如此出色地生成我們認為有意義的文本？我的...

2023-10-16 標簽：神經網絡語言模型ChatGPT 961 0

行人摔倒檢測-在英特爾開發套件上基于OpenVINO? C# API部署PP-Human

OpenVINO 2023.1 于 2023 年 9 月 18 日發布，該工具包帶來了挖掘生成人工智能全部潛力的新功能。生成人工智能的覆蓋范圍得到了擴展...

2023-10-13 標簽：英特爾視頻監控語言模型 786 0

清華&港大提出LanguageMPC：將大語言模型和MPC相結合的新型類人智駕系統

LanguageMPC首次將LLM應用于駕駛場景，并設計了將文字形式高層決策轉化為可操作駕駛行為的方法。我們定量的證明了LanguageMPC在路口和環...

2023-10-10 標簽：MPC語言模型自動駕駛 809 0

DISC-LawLLM：復旦大學團隊發布中文智慧法律系統，構建司法評測基準，開源30萬微調數據

DISC-LawLLM是基于我們構建的高質量數據集DISC-Law-SFT在通用領域中文大模型Baichuan-13B上進行全參指令微調得到的法律大模型...

2023-09-28 標簽：算法智能化語言模型 982 0

華為提出Sorted LLaMA：SoFT代替SFT，訓練多合一大語言模型

而這一切的背后，是一項名為Sorted Fine-Tuning（SoFT）的新訓練技術。SoFT讓我們可以在一個訓練周期內產出多個子模型，無需任何額外的...

2023-09-26 標簽：華為模型語言模型 857 0

DreamLLM：多功能多模態大型語言模型，你的DreamLLM~

由于固有的模態缺口，如CLIP語義主要關注模態共享信息，往往忽略了可以增強多模態理解的模態特定知識。因此，這些研究并沒有充分認識到多模式創造和理解之間潛...

2023-09-25 標簽：框架語言模型機器智能 773 0

Medusa如何加速大型語言模型（LLM）的生成？

面對推測性解碼的復雜性，研究人員推出了Medusa技術，這個框架回歸了Transformer模型的本質，減少了復雜度，增強了效率，讓每個生成階段都能快速...

2023-09-20 標簽：神經網絡語言模型LLM 756 0