Java開發(fā)者LLM實戰(zhàn)——使用LangChain4j構(gòu)建本地RAG系統(tǒng)

1、引言 由于目前比較火的chatGPT是預訓練模型，而訓練一個大模型是需要較長時間（參數(shù)越多學習時間越長，保守估計一般是幾個月，不差錢的可以多用點GP...

2024-07-02 標簽：JAVAChatGPTLLM 1411 0

AI如何助力、驅(qū)動軟件研發(fā)？

人工智能（AI）正在顛覆一切，軟件工程也不能幸免。生成式人工智能（AIGC）在編碼、設(shè)計、測試和 DevOps 方面的最新展示確實令人印象深刻，甚至可以...

2023-08-01 標簽：人工智能AWSjavascript語言 1387 0

100%在樹莓派上執(zhí)行的LLM項目

ChatGPT的人性口語化回復相信許多人已體驗過，也因此掀起一波大型語言模型（Large Language Model, LLM）熱潮，LLM即Chat...

2024-02-29 標簽：GPIO硬件加速器樹莓派 1370 0

LLMOps平臺Dify.AI宣布46,558行代碼完全開源

Dify.AI 是一款開源且易用的 LLMOps 平臺，旨在幫助開發(fā)者更簡單、更快速地構(gòu)建 AI 應用。Dify 提供了可視化的 Prompt 編排、運...

2023-05-17 標簽：代碼應用程序數(shù)據(jù)集 1313 0

用Chiplet解決ASIC在LLM上的成本問題

電子發(fā)燒友網(wǎng)報道（文/周凱揚）雖說最近靠著GPT大語言模型的熱度，英偉達之類的主流GPU公司賺得盆滿缽滿，但要說仗著GPU的高性能就能高枕無憂的話，也就...

2023-07-18 標簽：芯片asicchiplet 1271 0

了解大型語言模型 (LLM) 領(lǐng)域中的25個關(guān)鍵術(shù)語

1.LLM（大語言模型）大型語言模型(LLMs)是先進的人工智能系統(tǒng)，經(jīng)過大量文本數(shù)據(jù)集的訓練，可以理解和生成類似人類的文本。他們使用深度學習技術(shù)以上下...

2024-05-10 標簽：人工智能語言模型LLM 1270 0

Arm宣布推出終端計算子系統(tǒng)(CSS)，提供領(lǐng)先的人工智能體驗

Arm 控股有限公司（納斯達克股票代碼：ARM，以下簡稱“Arm”）今日宣布推出 Arm? 終端計算子系統(tǒng) (CSS)，以提供領(lǐng)先的人工智能 (AI) ...

2024-05-30 標簽：ARMSoC芯片人工智能 1261 0

如何通過人工智能（AI）克服汽車軟件開發(fā)挑戰(zhàn)？

關(guān)于“如何通過人工智能（AI）克服汽車軟件開發(fā)挑戰(zhàn)”的網(wǎng)絡研討會，本文總結(jié)了研討會的關(guān)鍵觀點以及相關(guān)白皮書和專訪，幫助讀者更好地了解汽車軟件行業(yè)中的最新...

2024-02-28 標簽：人工智能LLM生成式AI 1247 0

Transformer壓縮部署的前沿技術(shù)：RPTQ與PB-LLM

隨著人工智能技術(shù)的迅速發(fā)展，Transformer在自然語言處理、機器翻譯、問答系統(tǒng)等領(lǐng)域取得了顯著的性能提升。

2024-01-24 標簽：人工智能自然語言處理LLM 1218 0

2023年大語言模型(LLM)全面調(diào)研：原理、進展、領(lǐng)跑者、挑戰(zhàn)、趨勢

大型語言模型(LLM)是基于人工智能的先進模型，經(jīng)過訓練，它可以密切反映人類自然交流的方式處理和生成人類語言。這些模型利用深度學習技術(shù)和大量訓練數(shù)據(jù)來全...

2024-01-03 標簽：人工智能語言模型LLM 1203 0

使用模塊化、OpenUSD的Omniverse加速3D工作流程

最新的 NVIDIA Omniverse 版本可基于 Omniverse Kit 105 套件提供一系列令人振奮的新功能，使開發(fā)者能夠更加輕松地開始構(gòu)建...

2023-08-28 標簽：編碼器存儲器連接器 1191 0

大模型在軟件研發(fā)中發(fā)揮哪些作用？

下面我們看一下大家對大模型（LLM）的態(tài)度，絕大多數(shù)（68.7%）是擁抱LLM，關(guān)注、開始使用或積極使用LLM的，說明但也有1/4的團隊或公司處在觀望中...

2023-11-12 標簽：go語言大模型LLM 1185 0

RL究竟是如何與LLM做結(jié)合的？

強化學習（Reinforcement Learning, RL）的核心概念可簡單概括為：一個機器人（Agent）在看到了一些信息（Observation...

2024-01-03 標簽：機器人強化學習LLM 1167 0

被OpenAI帶火的Agent如何解放人力？

在歷史的長河中，自動化是人類技術(shù)發(fā)展的主要動力，幫助人類從復雜、危險、繁瑣的勞動環(huán)境中解放出來。自早期農(nóng)業(yè)時代的水車灌溉，到工業(yè)時代的蒸汽機，人類一直在...

2023-11-25 標簽：機器人pythonJSON 1042 0

LLMs實際上在假對齊！

LLM的訓練分為預訓練和安全訓練。預訓練是指在大規(guī)模語料庫上進行訓練，因此LLM獲得了各種強大的能力，如文本生成、推理和主題知識等。安全訓練使用有監(jiān)督的...

2023-11-20 標簽：模型數(shù)據(jù)集LLM 1041 0

【FlashAttention-V4，非官方】FlashDecoding++

圖b所示，F(xiàn)lashAttention和FlashDecoding對softmax操作進行了分塊處理，但是塊與塊之間需要進行同步（主要是局部最大值）。本...

2023-11-14 標簽：數(shù)據(jù)gpuLLM 1035 0