近日,AI創新先鋒Zyphra公司在科技界投下了一顆震撼彈,正式揭曉其最新力作——Zamba2-mini 1.2B模型。這款被譽為端側SOTA(State-Of-The-Art)級別的小語言模型,以其卓越的性能參數和極致的壓縮效率,成為了業界關注的焦點。
Zamba2-mini 1.2B攜帶著驚人的12億參數量,卻能在嚴苛的4bit量化條件下,將內存占用控制在驚人的700MB以下,這一成就無疑是對AI模型輕量化探索的一次重大突破。其背后,是Zyphra團隊對模型架構的深度優化與大膽創新,成功融合了多種神經網絡設計的精髓,既保留了大型密集變壓器模型的高質量輸出特性,又實現了小模型難以企及的計算與內存效率。
Zamba2-mini 1.2B的問世,不僅為端側設備提供了更為強大的智能支持,更預示著AI技術在實際應用場景中的廣泛落地與深度融合。隨著這一技術的不斷成熟與普及,我們有理由相信,未來的端側AI將更加智能、高效,為人們的生活帶來更多便利與驚喜。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
變壓器
+關注
關注
159文章
7490瀏覽量
135576 -
AI
+關注
關注
87文章
31000瀏覽量
269333 -
模型
+關注
關注
1文章
3254瀏覽量
48894
發布評論請先 登錄
相關推薦
圖森未來發布“Ruyi”視頻大模型,Ruyi-Mini-7B版本現已開源
重大獻禮。 尤為值得一提的是,圖森未來已經將Ruyi的Mini-7B版本正式開源,用戶現在可以通過huggingface平臺輕松下載并使用這一強大的工具。這一舉措無疑將極大地推動視頻大模型在更廣泛領域的應用和發展。 “Ruyi”模型
Meta推出Llama 3.3 70B,AI大模型競爭白熱化
在今年的AI領域,Meta也不甘落后,推出了其壓軸之作——Llama 3.3 70B大模型。與此同時,馬斯克的xAI也宣布其Grok模型從今天起全球免費開放(但存在一定的使用限制)。
PerfXCloud重磅升級 阿里開源最強視覺語言模型Qwen2-VL-7B強勢上線!
體驗吧! Qwen2-VL Qwen2-VL模型由阿里推出,在描述圖像、理解視頻以及解答視覺相關問題等方面表現極為卓越。該模型提供
英偉達發布AI模型 Llama-3.1-Nemotron-51B AI模型
英偉達公司宣布推出 Llama-3.1-Nemotron-51B AI 模型,這個AI大模型是源自 Meta 公司的 Llama-3.1-70B
馬斯克旗下xAI對Grok-2-mini進行速度升級
科技巨頭馬斯克旗下的xAI公司近日宣布了一項重大進展,其熱門語言模型Grok-2-mini成功完成了速度升級。
如何通過JTAG這個接口給ESP32-LyraT-Mini_V1.2燒錄代固件?
你好,
我發現ESP32-LyraT-Mini_V1.2開發板有JTAG接口引出,我們想通過這個開發板上面的ESP32-WROVER-B模塊做二次開發(UART0串口有它用),請問如何通過JTAG這個接口給板子燒錄代固件?
還有這部分的相關資料能推薦下嗎。
發表于 07-02 07:05
ESP32-LyraT-Mini_V1.2開發板運行ADF例程無法錄音要如何解決?
ESP32-LyraT-Mini_V1.2開發板運行例程無法錄音
環境: IDF 4.3 , ADF Git master 和 esp-adf-release-v2.4
例程1:
C
發表于 06-28 07:56
lyrat-mini-v1.2使用例程pipeline_wav_amr_sdcard錄音沒有聲音怎么解決?
lyrat-mini-v1.2使用例程pipeline_wav_amr_sdcard錄音沒有聲音,SD卡中有文件,但是沒有聲音怎么解決啊
發表于 06-28 06:43
智譜AI發布全新多模態開源模型GLM-4-9B
近日,智譜AI在人工智能領域取得重大突破,成功推出全新開源模型GLM-4-9B。這款模型以其卓越的多模態能力,再次刷新了業界對于大型語言模型
微軟發布視覺型AI新模型:Phi-3-vision
據悉,Phi-3-vision 作為微軟 Phi-3 家族的首款多模態模型,繼承自 Phi-3-mini 的文本理解能力,兼具輕巧便攜特性,適用于移動平臺/嵌入式終端;模型參數規模達 42 億,遠超 Phi-3-
微功率電壓參考LMx85-1.2 LM385B-1.2數據表
電子發燒友網站提供《微功率電壓參考LMx85-1.2 LM385B-1.2數據表.pdf》資料免費下載
發表于 04-01 15:41
?0次下載
Meta發布開源大模型Code Llama 70B
近日,Meta宣布推出了一款新的開源大模型Code Llama 70B,這是其“Code Llama家族中體量最大、性能最好的模型版本”。這款新模型
評論