11月30日,由深度學習技術及應用國家工程研究中心主辦的Wave Summit+ 2022深度學習開發者峰會如期舉行。鵬城實驗室主任、中國工程院高文院士,深圳大學電子與信息工程學院院長、深度學習技術及應用國家工程研究中心技術委員會副主任、中國工程院丁文華院士受邀致辭,百度首席技術官、深度學習技術及應用國家工程研究中心主任王海峰發表題為《深度學習平臺加大模型,產業智能化基座》的主旨演講。
(以下為發言全文)
尊敬的各位專家、開發者朋友們,大家好!
歡迎大家來參加Wave Summit深度學習開發者峰會。非常感謝高文院士和丁文華院士對Wave Summit和飛槳的支持,感謝各位專家和開發者朋友們的支持。我今天分享的題目是,深度學習平臺加大模型,產業智能化基座。我們堅持在技術上突破創新,在生態上培育耕耘,夯實智能化基座,讓每一位開發者、讓致力于科技創新和產業發展的社會各界,都能夠在自主的基礎底座上大展宏圖,努力實現高水平科技自立自強,推動經濟社會高質量發展。
開發者、科研院所、企事業單位、技術伙伴、硬件廠商,等等,都是飛槳生態的建設者和受益者。飛槳構建了全方位的生態體系,包括開發者生態、硬件生態、教育生態、企業生態等,產學研協同,共創、共生、共贏。
硬件生態方面,飛槳與合作伙伴從共聚、共研,到共創,2020年,聯合發起硬件生態圈,促進AI產業鏈的適配升級;2021年,推進軟硬一體聯合優化,適配飛槳的芯片超過30種,支持的國產硬件數量位居第一;2022年,推進“硬件生態共創計劃”,今天,將聯合發布飛槳生態發行版產品,軟硬件協同深度優化,更好地服務開發者,實現生態繁榮共贏。
飛槳自2016年開源以來,持續創新突破,不斷降低AI開發和應用門檻。開源貢獻者、合作伙伴,遍布海內外。飛槳結合區域產業特色,與生態合作伙伴一起,服務千行百業;與高校、企業等合作培養復合型人才。我們胸懷共同的技術理想,天涯若比鄰。
在這里,我非常高興地跟大家分享,截至目前,飛槳已經凝聚了535萬開發者,服務20萬家企事業單位,基于飛槳創建了67萬個模型。飛槳的成績,是大家共同努力的結果,也驗證了深度學習生態的發展繁榮。那么,在技術持續突破、產業亟需再上新臺階的當下,產業智能化如何更進一步?
我認為,深度學習平臺加上大模型,貫通了從硬件適配、模型訓練、推理部署,到場景應用的AI全產業鏈,夯實了產業智能化基座,會進一步加速產業智能化升級。
我之前多次提到,深度學習平臺是基礎共性平臺,下接芯片,上承應用,起到承上啟下的作用,相當于智能時代的操作系統,有力支撐產業智能化升級。
而大模型的出現,為人工智能進一步發展帶來新機遇。它的效果好,泛化能力強,大規模預訓練加精調的研發流程,標準化程度高。同時,大模型也對深度學習模型的開發、訓練和推理部署提出了更高要求,牽引深度學習平臺的發展方向。
但是,大模型應用也面臨技術門檻高的挑戰。
首先是數據規模大,且數據質量參差不齊;其次是模型的體積大,算法難度很高;第三是算力規模大,性能要求高。因此,大模型研發,依賴算法、算力和數據的綜合支撐。
面對挑戰,如何實現大模型的產業化呢?
我認為,具有算法、算力和數據綜合優勢的企業,可以將模型生產的復雜過程封裝起來,通過低門檻、高效率的生產平臺,為千行百業提供大模型服務。這樣,大數據、大算力、大模型能力僅需少數企業操心,千行百業直接應用即可。
這樣的產業化路徑,已經在我們的大模型產業實踐中得到驗證。
這張圖,是最新的文心產業級知識增強大模型全景,包括以鵬城-百度文心為代表的通用大模型,以及跨模態大模型、生物計算大模型,聯合共建的行業大模型,還有輔助大模型適配場景應用的工具套件,大模型API平臺、基于大模型的產品、探索生態共建的創意社區等。
行業大模型方面,以文心通用大模型為基礎,從行業及企業的特有數據和知識中,融合學習,模型能力進一步增強,取得了很好的應用效果,幫助企業降本增效,加速智能化升級。
我們已經與合作伙伴共建了多個行業大模型,覆蓋制造、能源、航天、金融、傳媒等領域,為創新發展添薪續力。
在大模型的產業實踐中,一方面加強大模型技術突破,聯合研制行業大模型,建設配套的工具平臺;另一方面,支撐大模型開發、訓練和推理部署的深度學習平臺,也在持續進化。
飛槳是產業級深度學習開源開放平臺,集核心框架、產業級模型庫、開發套件、工具組件,以及學習和實訓社區于一體,能夠標準化、自動化地支撐模型生產和應用。
今天,我們也升級了飛槳平臺,“大模型訓推一體”開發套件,讓大模型研發更便捷高效;“全場景AI部署工具”,性能好、簡單易用,解決模型部署中的痛點問題。全新升級的飛槳平臺,將更好的支持大模型研發與產業應用。
對于開發訓練,飛槳動靜統一的開發范式,以及自適應分布式架構,實現大模型的靈活開發和高效訓練。
推理部署方面,飛槳支持大模型高效推理,并提供服務化部署能力。為了適配更多場景、更苛刻環境、更極致推理性能,飛槳一方面通過計算融合等方式進行全方位性能優化;另一方面通過軟硬協同的稀疏量化進一步加速。同時,飛槳提供蒸餾裁剪等豐富的壓縮策略,將模型進一步小型化,實現高效部署。
為了讓大模型產業落地更高效便捷,飛槳提供了全套的產業化工具與平臺,支持大模型的多樣化應用。
“大模型開發套件”,支持大模型高效訓練、便捷推理全流程,適配多硬件多平臺,大幅降低大模型的研發門檻。“場景模型生產線”,高效構建與快速迭代基于大模型的多樣化場景模型,讓大模型的落地像流水線一樣高效;內置的數十個模型生產線可以開箱即用,極大降低了大模型的應用門檻。
總結一下,深度學習平臺加大模型,貫通AI全產業鏈,夯實智能化基座。飛槳加文心大模型,加速產業智能化。
接下來,我的同事們將為大家帶來文心大模型及飛槳平臺的重要發布和升級,敬請期待!
愿與大家一起共饗Wave Summit盛會,共襄科技創新盛舉!謝謝大家!
-
百度
+關注
關注
9文章
2268瀏覽量
90363 -
開發者
+關注
關注
1文章
563瀏覽量
17005 -
深度學習
+關注
關注
73文章
5500瀏覽量
121112 -
飛槳
+關注
關注
0文章
33瀏覽量
2284 -
大模型
+關注
關注
2文章
2423瀏覽量
2643
原文標題:百度王海峰:深度學習平臺+大模型,產業智能化基座
文章出處:【微信號:baidu_2000,微信公眾號:百度】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論