完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > 大模型
以大模型作為基礎模型支撐AI產業應用邏輯已經被證明實用性，AI大模型為AI落地應用提供了一種通用化的解決方案；各自各樣參數不一、面向不同行業、面向不同任務的“大模型”也陸續發布，大模型已經成為整個AI 界追逐的寵兒，AI大模型有效果好、泛化性強、研發流程標準化程度高等特點。
文章：2444個 瀏覽：2818次 帖子：14個
在 LLaMA, BERT 以及 ViTs 模型上，4-bit 量化皆取得了遠超 SOTA 的結果。特別是，這篇文章展示了 4-bit 量化的 LLaM...
縱軸是"Bits for words", 這也是交叉熵的一個單位。在計算交叉熵時，如果使用以 2 為底的對數，交叉熵的單位就是 &q...
各種 GL API 的純軟實現，當沒有可用的硬件時，它可以提供純軟件的 GL API 的實現； 它可以用于 Linux/Windows/Mac 等...
經典 Transformer 使用不可學習的余弦編碼，加在模型底層的詞向量輸入上。GPT、BERT將其改為可學習的絕對位置編碼，并沿用到了RoBERTa...
MFTCoder具備高效訓練特征，包括提供高效的數據Tokenization模式和支持PEFT微調，能有效提升微調訓練速度并降低對資源的需求。
數據在 MaaS 時代很重要，市場的火熱映射到具體的企業行為上，表現為大批量垂直模型的推出、數據庫企業融資數量增加、數據庫使用量陡然增長等。
千億參數的星辰大模型發布。從2021年10月啟動自研城市治理大模型，星辰大模型已經走過語義大模型、多模態大模型、語音大模型到下一代數字人的階段發展，20...
人的視覺識別過程是一個層次性的關系，從最初級的視覺皮層一直到更高級的皮層，從簡單的視覺邊緣特征到線條的方向性，再到線條之間的組合，如角等更高維特征的形成...
NeurlPS'23開源 | 首個！開放詞匯3D實例分割！
我們介紹了開放詞匯3D實例分割的任務。當前的3D實例分割方法通常只能從訓練數據集中標注的預定義的封閉類集中識別對象類別。這給現實世界的應用程序帶來了很大...
深度學習的大模型時代已經來臨,越來越多的大規模預訓練模型在文本、視覺和多模態領域展示出杰出的生成和推理能力。然而大模型巨大的參數量有兩個明顯缺點
MathOctopus在多語言數學推理任務中，表現出了強大的性能。MathOctopus-7B 可以將LLmMA2-7B在MGSM不同語言上的平均表現從...
靜態代碼掃描(SA)能快速識別代碼缺陷，如空指針訪問、數組越界等，以較高ROI保障質量及提升交付效率。當前掃描能力主要依賴人工經驗生成規則，泛化能力弱且...
云邊AI是指把AI大模型和算法在云端訓練和優化后，部署到邊緣設備上運行，從而將AI能力融入終端設備。在前期的AI發展中，云端計算平臺憑借其強大的計算能力...
作為域控制器，其核心部分的掌控度不在中間廠商手中，車商也傾向于自主開發。這是否意味著域控制器廠商未來可能轉向代工的角色，喪失核心技術實力？
現有方法往往是：用一個2D特征提取網絡提取圖像特征；用一個3D特征提取網絡提取點云特征；然后根據pixel-to-point對應關系真值通過Metric...
大模型混合多種能力項數據進行微調時，會呈現高資源沖突，低資源增益的現象。我們提出的DMT策略通過在第一階段微調特定能力數據，在第二階段微調通用數據+少量...
一文詳解多模態大模型發展及高頻因子計算加速GPU算力 | 英偉達顯卡被限，華為如何力挽狂瀾？
近年來，全球范圍內的芯片禁令不斷升級，給許多企業和科研機構帶來了很大的困擾，需要在技術層面進行創新和突破。一方面，可以探索使用國產芯片和其他不受限制的芯...
在RTX 4090被限制的時代下，讓大模型使用RLHF更高效的方法來了
今年，以 ChatGPT 為首的大語言模型（Large Language Models, LLMs) 在各個方面大放光彩，由此引發了學術界和商業界對 G...
LLaMA2上下文長度暴漲至100萬tokens，只需調整1個超參數
目前的Transformer位置編碼方法，有絕對位置編碼（將位置信息融入到輸入）、相對位置編碼（將位置信息寫入attention分數計算）和旋轉位置編碼...
效果怎么樣呢？PaLI-3 在需要視覺定位文本理解和目標定位的任務上實現了新的 SOTA，包括 RefCOCO 數據集上的 8 個視覺定位文本理解任務和...
換一批
編輯推薦廠商產品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯網 | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發電 | UPS | AR | 智能電網 | 國民技術 | Microchip |
| 開關電源 | 步進電機 | 無線充電 | LabVIEW | EMC | PLC | OLED | 單片機 |
| 5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
| NB-IoT | LoRa | Zigbee | NFC | 藍牙 | RFID | Wi-Fi | SIGFOX |
| Type-C | USB | 以太網 | 仿真器 | RISC | RAM | 寄存器 | GPU |
| 語音識別 | 萬用表 | CPLD | 耦合 | 電路仿真 | 電容濾波 | 保護電路 | 看門狗 |
| CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
| SDI | nas | DMA | HomeKit | 閾值電壓 | UART | 機器學習 | TensorFlow |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發燒友APP
電子發燒友觀察
版權所有 ? 湖南華秋數字科技有限公司
長沙市望城經濟技術開發區航空路6號手機智能終端產業園2號廠房3層（0731-88081133）
電子發燒友 （電路圖） 湘公網安備43011202000918
工商網監
湘ICP備2023018690號-1
