近日,昆侖萬維公司宣布開源一款名為Skywork-MoE的稀疏大模型,該模型擁有高達2千億參數,不僅性能強勁,而且推理成本更低,為人工智能領域帶來了新的突破。
Skywork-MoE基于昆侖萬維之前開源的Skywork-13B模型進行擴展,是首個完整應用并落地的開源千億MoE大模型。MoE(Mixture of Experts)技術在此模型中得到了充分的應用,使得模型在處理復雜任務時能夠更加高效和準確。
值得一提的是,Skywork-MoE還是首個支持用單臺4090服務器推理的開源千億MoE大模型。這一特性極大地降低了模型的使用門檻,使得更多的企業和研究機構能夠輕松地使用這一強大的模型進行研究和應用。
昆侖萬維公司表示,Skywork-MoE的模型權重和技術報告將完全開源,并免費提供給商業使用。這一舉措將極大地推動人工智能領域的發展,為更多的企業和研究機構提供強大的技術支持和合作機會。
Skywork-MoE的開源不僅展示了昆侖萬維公司在人工智能領域的技術實力,也體現了公司對于推動行業發展的堅定承諾。未來,我們期待看到更多基于Skywork-MoE的優秀應用和研究成果的出現。
-
人工智能
+關注
關注
1791文章
47183瀏覽量
238255 -
開源
+關注
關注
3文章
3309瀏覽量
42471 -
大模型
+關注
關注
2文章
2423瀏覽量
2641 -
昆侖萬維
+關注
關注
0文章
17瀏覽量
11
發布評論請先 登錄
相關推薦
評論