面向企業(yè)客戶啟動(dòng)文心大模型4.0 API調(diào)用服務(wù)測(cè)試申請(qǐng),服務(wù)超過17000家客戶,在各行各業(yè)的近500個(gè)場(chǎng)景中進(jìn)行大模型應(yīng)用落地探索……自今年3月面世以來,百度智能云千帆大模型平臺(tái)作為全球首個(gè)一站式企業(yè)級(jí)大模型平臺(tái),為業(yè)界交出了唯一一份“滿分成績(jī)單”。
10月17日,百度世界2023在北京首鋼園召開。百度智能云在大會(huì)期間宣布:全面升級(jí)“云智一體”戰(zhàn)略,面向客戶落地大模型的五類需求提供全棧服務(wù)方案;面向AI原生應(yīng)用開發(fā),重磅發(fā)布“千帆AI原生應(yīng)用開發(fā)工作臺(tái)”,加速企業(yè)AI原生應(yīng)用落地;發(fā)布國(guó)內(nèi)首個(gè)AI原生應(yīng)用商店,以及國(guó)內(nèi)首個(gè)大模型全鏈路生態(tài)支持體系,賦能伙伴商業(yè)增長(zhǎng),共建、共享繁榮的大模型產(chǎn)業(yè)生態(tài)。
滿足企業(yè)大模型落地五大需求: 百度智能云升級(jí)“云智一體”戰(zhàn)略
自2020年起,百度智能云在業(yè)界率先提出“云智一體”戰(zhàn)略,并在技術(shù)架構(gòu)與服務(wù)等方面進(jìn)行了多次迭代升級(jí)。本屆百度世界大會(huì),“云智一體”的戰(zhàn)略內(nèi)涵全面升級(jí)為“云智一體,深入產(chǎn)業(yè),生態(tài)繁榮,AI普惠”。
百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖表示,人工智能與云計(jì)算的深度結(jié)合是企業(yè)快速落地AI原生應(yīng)用的關(guān)鍵,這也是百度智能云始終倡導(dǎo)和踐行的“云智一體”理念。目前,百度集團(tuán)所有應(yīng)用和服務(wù)全部基于”云智一體“技術(shù)架構(gòu)運(yùn)行在百度智能云上。此外,面向客戶落地大模型的五類需求,百度智能云基于千帆大模型平臺(tái)打造的“大模型超級(jí)工廠”分別給出了最佳服務(wù)方案。
首先,針對(duì)只有算力需求的客戶,千帆平臺(tái)可以提供極致高效和性價(jià)比的異構(gòu)算力服務(wù)。在客戶最關(guān)心的大模型訓(xùn)練環(huán)節(jié),通過分布式并行訓(xùn)練策略和微秒級(jí)互聯(lián)能力,千帆平臺(tái)可以實(shí)現(xiàn)萬卡規(guī)模集群訓(xùn)練的加速比達(dá)到95%;通過事先防范、事中及時(shí)發(fā)現(xiàn)、定位、解決,最大限度避免集群因故障等原因產(chǎn)生的無效運(yùn)轉(zhuǎn),提高有效訓(xùn)練時(shí)間占比,萬卡集群有效訓(xùn)練時(shí)間占比達(dá)到96%,充分釋放集群有效算力,大幅降低客戶算力與時(shí)間成本。
此外,千帆平臺(tái)還兼容昆侖芯、昇騰、海光DCU、英偉達(dá)、英特爾等國(guó)內(nèi)外主流AI芯片,支持客戶以最小的切換成本完成算力適配。
面壁智能攜手知乎,基于百度智能云提供的AI算力集群,訓(xùn)練出“知海圖AI”大模型和多模態(tài)大模型Luca,在千卡集群上的有效訓(xùn)練時(shí)間占比高達(dá)99%,在保障模型訓(xùn)練連續(xù)性的同時(shí),可以實(shí)現(xiàn)模型訓(xùn)練效果的高效收斂。此外,知乎、好未來、地平線等企業(yè)也正在基于百度智能云提供的AI算力服務(wù),以更加穩(wěn)定、高效和經(jīng)濟(jì)的方式實(shí)現(xiàn)大規(guī)模集群的訓(xùn)練和管理。
其次,在模型層面,對(duì)于希望直接調(diào)用已有大模型的客戶,千帆平臺(tái)納管了42個(gè)國(guó)內(nèi)外主流大模型,企業(yè)客戶可以快速調(diào)用包括文心大模型在內(nèi)的各種大模型的API,獲取大模型能力。對(duì)于第三方大模型,千帆平臺(tái)還針對(duì)性地進(jìn)行了中文增強(qiáng)、性能增強(qiáng)、上下文增強(qiáng)等優(yōu)化。目前千帆平臺(tái)已經(jīng)服務(wù)了超過17000家客戶,大模型API調(diào)用量持續(xù)高速攀升。
第三,對(duì)于希望基于現(xiàn)有大模型進(jìn)行二次開發(fā)的客戶,千帆平臺(tái)為大模型的再訓(xùn)練、微調(diào)、評(píng)估和部署等環(huán)節(jié)提供全生命周期工具鏈、業(yè)界最多的41個(gè)高質(zhì)量行業(yè)數(shù)據(jù)集,幫助客戶針對(duì)自身業(yè)務(wù)場(chǎng)景快速優(yōu)化模型效果。目前,包括中國(guó)郵政儲(chǔ)蓄銀行、度小滿、金山辦公、河北高速集團(tuán)在內(nèi)的諸多行業(yè)頭部客戶,都正在通過千帆平臺(tái)提供的工具鏈服務(wù)開發(fā)出貼合業(yè)務(wù)需求的專屬大模型。
第四,在應(yīng)用層面,一部分企業(yè)需要基于大模型服務(wù)去開發(fā)AI原生應(yīng)用,千帆平臺(tái)上提供的一系列能力組件與框架,可以幫助企業(yè)快速完成應(yīng)用開發(fā),靈活地響應(yīng)用戶與市場(chǎng)需求。
最后,另一部分客戶則希望直接、方便地選購(gòu)成熟的AI原生應(yīng)用產(chǎn)品,賦能業(yè)務(wù)發(fā)展。
賦能企業(yè)高效開發(fā)AI原生應(yīng)用: 發(fā)布“千帆AI原生應(yīng)用開發(fā)工作臺(tái)”
為了滿足企業(yè)敏捷、高效地進(jìn)行AI原生應(yīng)用開發(fā)的需求,降低AI原生應(yīng)用開發(fā)門檻,百度智能云重磅發(fā)布“千帆AI原生應(yīng)用開發(fā)工作臺(tái)”,將開發(fā)大模型應(yīng)用的常見模式、工具、流程,沉淀成一個(gè)工作臺(tái),幫助開發(fā)者聚焦在自身業(yè)務(wù),而無需為開發(fā)過程牽扯多余精力。具體來講,千帆AI原生應(yīng)用開發(fā)工作臺(tái)主要由應(yīng)用組件、應(yīng)用框架兩層服務(wù)構(gòu)成。
應(yīng)用組件服務(wù)由AI和基礎(chǔ)云兩大類組件構(gòu)成,是對(duì)底層服務(wù)能力的組件化封裝,讓每個(gè)組件完成一個(gè)特定的功能。“AI組件”中既包含諸如問答、思維鏈(CoT,Chain of Thought)等大語言模型組件,還包括文生圖、語音識(shí)別等多模態(tài)組件,而“基礎(chǔ)云組件”則包含向量數(shù)據(jù)庫(kù)、對(duì)象存儲(chǔ)等傳統(tǒng)云服務(wù)能力。
應(yīng)用框架則是通過將上述這些組件有選擇地串聯(lián)、組合起來,讓它們能夠比較完整地完成一個(gè)特定場(chǎng)景的任務(wù)。目前,千帆平臺(tái)上提供的檢索增強(qiáng)生成(RAG)、智能體(Agent)就是常用的AI原生應(yīng)用框架。在每個(gè)框架下,百度智能云還提供豐富的樣板間,支撐開發(fā)者敏捷、高效地進(jìn)行AI原生應(yīng)用開發(fā)。
檢索增強(qiáng)生成(RAG,Retrieval Augmented Generation)框架,可以更高效的利用企業(yè)專有領(lǐng)域內(nèi)的知識(shí),并在大模型的幫助下根據(jù)相關(guān)問題做出精確回答,是專業(yè)知識(shí)問答類AI原生應(yīng)用的必備核心能力。
大會(huì)現(xiàn)場(chǎng)還進(jìn)行了如何基于RAG框架,為三一重工快速開發(fā)知識(shí)問答應(yīng)用的實(shí)操演示:只需在千帆AI原生應(yīng)用工作臺(tái)中選擇預(yù)置的RAG框架,進(jìn)行相應(yīng)的參數(shù)配置等工作,就可以快速實(shí)現(xiàn)三一重工官網(wǎng)智能客服應(yīng)用的開發(fā)與上線。沈抖表示,搭建這樣一個(gè)“小助手”,即使需要處理幾千篇萬字長(zhǎng)文檔,成本也只需幾百塊錢;而之后用戶每次咨詢,成本僅需幾分錢。
(基于RAG應(yīng)用框架快速完成三一重工知識(shí)問答應(yīng)用開發(fā)) 智能體(Agent)作為當(dāng)前業(yè)界流行的應(yīng)用框架,可以對(duì)人類給定的任務(wù)進(jìn)行自動(dòng)拆解,自動(dòng)規(guī)劃并調(diào)用各種組件協(xié)同完成任務(wù),同時(shí)根據(jù)任務(wù)完成效果得到反饋,改進(jìn)自身能力。目前,Agent框架已經(jīng)在工業(yè)、交通等領(lǐng)域得到了廣泛應(yīng)用。
中天鋼鐵基于千帆AI原生應(yīng)用開發(fā)工作臺(tái)提供的Agent框架打造了智能化的“企業(yè)調(diào)度中樞”,實(shí)現(xiàn)了任務(wù)指令的自動(dòng)感知、分解與執(zhí)行。比如,在發(fā)現(xiàn)鋼鐵產(chǎn)量不達(dá)標(biāo)時(shí),用戶只需提問一次,大模型就可以自動(dòng)調(diào)用平臺(tái)納管的各種資源和API,完成BI取數(shù)、第三方根因分析等工作,找到未達(dá)標(biāo)原因,及時(shí)調(diào)整排產(chǎn)計(jì)劃并發(fā)送郵件通知調(diào)度人員。
繁榮產(chǎn)業(yè)生態(tài):國(guó)內(nèi)首個(gè)AI原生應(yīng)用商店、 全鏈路大模型生態(tài)體系集體問世
為了滿足企業(yè)客戶便捷選購(gòu)優(yōu)質(zhì)AI原生應(yīng)用的需求,賦能伙伴商業(yè)成功,百度智能云重磅推出:國(guó)內(nèi)首家面向企業(yè)客戶進(jìn)行一站式交易的AI原生應(yīng)用商店——百度智能云千帆AI原生應(yīng)用商店,旨在為大模型時(shí)代AI原生應(yīng)用的供需雙方建立起便捷、可靠的聯(lián)接通路,大幅提升客戶應(yīng)用選型與采購(gòu)效率,為伙伴商家創(chuàng)造更多商機(jī)。目前,企業(yè)用戶可以通過百度智能云官網(wǎng),進(jìn)入千帆AI原生應(yīng)用商店,選購(gòu)心儀的AI原生應(yīng)用。
本屆世界大會(huì),百度發(fā)布了國(guó)內(nèi)首個(gè)生成式商業(yè)智能產(chǎn)品——百度GBI(Generative Business Intelligence)。BI(商業(yè)智能)是當(dāng)下展現(xiàn)大模型能力“天花板”的典型應(yīng)用場(chǎng)景之一。百度GBI作為AI原生應(yīng)用引擎,基于文心大模型實(shí)現(xiàn)了“智能問數(shù)”能力的全面重構(gòu):面向任意數(shù)據(jù)庫(kù),都可以通過對(duì)話一步完成查詢與分析,相比傳統(tǒng)BI大幅提升了數(shù)據(jù)分析的效率,降低了數(shù)據(jù)分析專業(yè)能力要求。
以企業(yè)經(jīng)營(yíng)數(shù)據(jù)分析為例,百度GBI可以把商業(yè)數(shù)據(jù)分析師十幾天才能完成的數(shù)據(jù)分析、撰寫報(bào)告的工作時(shí)長(zhǎng),從以天為單位縮短到以分鐘為單位。而作為一類AI原生應(yīng)用框架產(chǎn)品,百度GBI還可以實(shí)現(xiàn)極簡(jiǎn)的跨行業(yè)、跨領(lǐng)域能力遷移,快速落地如城市治理分析、能源消費(fèi)洞察、工業(yè)設(shè)備運(yùn)行管理、金融投資決策、交通擁堵治理等場(chǎng)景中,高效實(shí)現(xiàn)政企BI類AI原生應(yīng)用的開發(fā)構(gòu)建。
(百度GBI功能展示)
金蝶作為首批入駐千帆AI原生應(yīng)用商店的伙伴,聯(lián)合百度智能云于2023年8月8日重磅發(fā)布了金蝶云·蒼穹GPT,并率先推出業(yè)界首個(gè)財(cái)務(wù)大模型,助力客戶更加高效地進(jìn)行財(cái)務(wù)管理與分析,提高財(cái)務(wù)處理的準(zhǔn)確性和規(guī)范性,為企業(yè)的長(zhǎng)期穩(wěn)定發(fā)展提供強(qiáng)有力的保障。
大模型技術(shù)不僅正在重塑云計(jì)算的服務(wù)模式和產(chǎn)品形態(tài),也正在重塑云計(jì)算產(chǎn)業(yè)的生態(tài)格局,對(duì)云計(jì)算廠商和其覆蓋千行百業(yè)的合作伙伴的能力與體系建設(shè)提出了全新要求。
為了助力合作伙伴們?nèi)〉么竽P蜁r(shí)代的商業(yè)成功,百度智能云建設(shè)并推出了國(guó)內(nèi)首個(gè)大模型全鏈路生態(tài)支持體系,并為10家綜合伙伴、100家應(yīng)用伙伴、1萬家以上的初創(chuàng)企業(yè)以及代理伙伴,提供包括千帆社區(qū)、AI原生應(yīng)用孵化、銷售商機(jī)、市場(chǎng)營(yíng)銷、賦能培訓(xùn),以及千帆AI原生應(yīng)用商店等全方位的支持。
百度集團(tuán)副總裁袁佛玉表示,“在這個(gè)瞬息萬變的時(shí)代,百度不僅要在大模型技術(shù)和商業(yè)化探索的道路上勇闖無人區(qū),還要與眾多合作伙伴共同打造繁榮的產(chǎn)業(yè)生態(tài),共同探索新的商業(yè)模式和商業(yè)機(jī)會(huì),實(shí)現(xiàn)真正的合作共贏。”
審核編輯:劉清
-
云計(jì)算
+關(guān)注
關(guān)注
39文章
7774瀏覽量
137353 -
人工智能
+關(guān)注
關(guān)注
1791文章
47183瀏覽量
238258 -
百度智能云
+關(guān)注
關(guān)注
0文章
47瀏覽量
1910 -
大模型
+關(guān)注
關(guān)注
2文章
2423瀏覽量
2641
原文標(biāo)題:百度沈抖:升級(jí)“云智一體”戰(zhàn)略,面向五大需求打造大模型服務(wù)超級(jí)工廠
文章出處:【微信號(hào):baidu_2000,微信公眾號(hào):百度】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論