“大模型的未來(lái)在于行業(yè)應(yīng)用”,對(duì)此業(yè)界已經(jīng)達(dá)成了共識(shí),下一步則是如何將大模型在行業(yè)中落地。
于是,我們能夠看到,既前一階段的基礎(chǔ)大模型之后,近來(lái)又掀起了行業(yè)大模型的熱潮。據(jù)粗略統(tǒng)計(jì),僅在國(guó)內(nèi),已經(jīng)和計(jì)劃發(fā)布的大模型就達(dá)到上百個(gè)。
那么,對(duì)于有志于大模型業(yè)務(wù)的IT企業(yè)來(lái)說(shuō),是不是只有這兩條路可走,是否存在第三條可達(dá)路徑呢?
軟通動(dòng)力給出的答案是:不做通用大模型,而是為行業(yè)客戶(hù)提供平臺(tái)工具、專(zhuān)業(yè)人才和技術(shù)服務(wù),與他們共創(chuàng)定制化的私有大模型,以此推動(dòng)大模型行業(yè)應(yīng)用的快速落地。
行業(yè)頭部企業(yè)將扮演重要角色
在第一波熱潮中,大模型的發(fā)布者主要是ICT企業(yè),尤其以互聯(lián)網(wǎng)公司為主導(dǎo)。最近一段時(shí)間,各個(gè)行業(yè)的頭部企業(yè)也開(kāi)始參與其中。
IDC前不久發(fā)布的報(bào)告預(yù)測(cè),金融行業(yè)、能源行業(yè)等頭部機(jī)構(gòu),會(huì)率先在1年內(nèi)在相對(duì)成熟的場(chǎng)景中嘗試引入大模型。而且,隨著技術(shù)的普及,行業(yè)頭部企業(yè)在該市場(chǎng)的角色,也不再只是最終用戶(hù),而有望成為新一代AI技術(shù)的提供商。
無(wú)論作為最終用戶(hù)還是技術(shù)提供商,頭部企業(yè)參與行業(yè)大模型的趨勢(shì)已經(jīng)建立,因?yàn)樗麄円呀?jīng)看到大模型能夠?yàn)槠髽I(yè)降本增效,建立起業(yè)務(wù)競(jìng)爭(zhēng)優(yōu)勢(shì)。這些行業(yè)頭部企業(yè),正是軟通動(dòng)力所長(zhǎng)期服務(wù)的客戶(hù),也在大模型領(lǐng)域走在前列。
軟通動(dòng)力數(shù)字化創(chuàng)新服務(wù)線副總裁霍宇認(rèn)為,要做好行業(yè)大模型,企業(yè)需要在兩個(gè)方面加大投入,一是算力,二是語(yǔ)料。對(duì)于算力的重要性,大家已經(jīng)都認(rèn)識(shí)到了,其實(shí)語(yǔ)料對(duì)于行業(yè)大模型的訓(xùn)練更為重要。
他表示,相比國(guó)外,國(guó)內(nèi)的語(yǔ)料多集中在企業(yè)內(nèi)部,可以公開(kāi)獲得的則比較少。因此,他建議,行業(yè)客戶(hù)應(yīng)該先“補(bǔ)數(shù)據(jù)的課”,把更多預(yù)算投入到提升大模型的輸入質(zhì)量上,這樣不僅不耽誤時(shí)間,反而可以節(jié)省成本。
當(dāng)然,在這一過(guò)程中,如何治理數(shù)據(jù)、如何把數(shù)據(jù)語(yǔ)料化、如何更好地訓(xùn)練模型,都將是對(duì)企業(yè)能力的考驗(yàn)。軟通動(dòng)力正致力于幫助企業(yè)提升這些方面的能力,從而利用大模型來(lái)升級(jí)數(shù)智化轉(zhuǎn)型戰(zhàn)略,在外部產(chǎn)業(yè)鏈和內(nèi)部企業(yè)管理兩個(gè)領(lǐng)域?qū)崿F(xiàn)全面數(shù)字化。
堅(jiān)持走與客戶(hù)共創(chuàng)的路徑
在過(guò)去半年時(shí)間里,ICT企業(yè)都紛紛加入到大模型產(chǎn)業(yè)當(dāng)中,發(fā)揮自身專(zhuān)長(zhǎng)來(lái)獲取一席之地。目前,圍繞大模型的產(chǎn)業(yè)生態(tài)正逐步形成,雖然這一生態(tài)體系仍不穩(wěn)定,處于快速發(fā)展演化的過(guò)程中。
霍宇認(rèn)為,軟通動(dòng)力不做通用基礎(chǔ)大模型,因?yàn)檫@需要巨額投入,是行業(yè)頭部企業(yè)才能做的;也不會(huì)做通用行業(yè)大模型,因?yàn)檐浲▌?dòng)力雖然懂行業(yè),但缺乏相應(yīng)的數(shù)據(jù)資源。因此,在行業(yè)大模型賽道里,軟通動(dòng)力堅(jiān)持走與客戶(hù)共創(chuàng)的路徑,為行業(yè)客戶(hù)提供數(shù)學(xué)建模、規(guī)則設(shè)定、模型優(yōu)化等服務(wù),幫助他們定制自己的私有大模型。這也可以充分發(fā)揮軟通動(dòng)力的優(yōu)勢(shì):定制開(kāi)發(fā)能力強(qiáng)、技術(shù)服務(wù)能力強(qiáng)。
在這一路徑中,軟通動(dòng)力也堅(jiān)持生態(tài)合作,在底層基礎(chǔ)設(shè)施和基礎(chǔ)大模型方面,與微軟、華為、亞馬遜、阿里云等巨頭合作——他們?cè)揪褪擒浲▌?dòng)力的長(zhǎng)期戰(zhàn)略伙伴。
在行業(yè)選擇方面,霍宇介紹說(shuō),金融、零售兩個(gè)行業(yè)是當(dāng)前的重點(diǎn)。選擇這兩個(gè)行業(yè),是因?yàn)樗麄兊目蛻?hù)是個(gè)人消費(fèi)者,數(shù)據(jù)量比較充足,同時(shí)也是軟通動(dòng)力長(zhǎng)期服務(wù)的行業(yè),對(duì)其業(yè)務(wù)邏輯非常熟悉。
在大模型的規(guī)模方面,軟通動(dòng)力則側(cè)重在六七十億到一百多億參數(shù)量的行業(yè)大模型,因?yàn)檫@個(gè)規(guī)模的大模型最具性?xún)r(jià)比。
對(duì)于大模型這個(gè)新鮮事物,很多行業(yè)頭部企業(yè)都表達(dá)出了強(qiáng)烈的興趣,但需求并不明確,目前仍處于嘗試階段。對(duì)此,軟通動(dòng)力決定自己先探路,今年在基礎(chǔ)算力方面預(yù)計(jì)會(huì)投入近億元,同時(shí),搭建服務(wù)工具平臺(tái),讓工程師們?nèi)ァ熬毷帧薄!拔磥?lái)還會(huì)繼續(xù)加大投入力度。”霍宇表示。
目前,行業(yè)大模型相對(duì)成熟的應(yīng)用場(chǎng)景是軟件開(kāi)發(fā)和知識(shí)管理,其中軟件開(kāi)發(fā)是公司的主要業(yè)務(wù)。軟通動(dòng)力正在利用大模型,來(lái)優(yōu)化軟件工程研發(fā)及測(cè)試效率,爭(zhēng)取在年內(nèi)實(shí)現(xiàn)提效30%的目標(biāo)。在知識(shí)管理方面,軟通動(dòng)力則開(kāi)發(fā)了律師行業(yè)助手類(lèi)應(yīng)用LawCopilot,幫助律師進(jìn)行文獻(xiàn)檢索、案例分析、錄音分析和法律咨詢(xún)。
不過(guò),霍宇強(qiáng)調(diào)說(shuō),目前to B大模型的行業(yè)應(yīng)用都處于Copilot的階段,即輔助人工進(jìn)行駕駛,而達(dá)不到脫離人工的完全自動(dòng)駕駛。
圍繞工具和人才進(jìn)行能力打造
與傳統(tǒng)ICT生態(tài)類(lèi)似,在大模型生態(tài)系統(tǒng)中,技術(shù)服務(wù)商扮演著為客戶(hù)提供貼身服務(wù)的關(guān)鍵角色。
IDC也認(rèn)為,提供各種工具和服務(wù),是大模型技術(shù)廠商的集中發(fā)力方向,包括模型訓(xùn)練、部署和推理,以及相關(guān)的數(shù)據(jù)集、API和工具軟件等,以幫助開(kāi)發(fā)者更加高效地使用大型模型,從而快速實(shí)現(xiàn)各種應(yīng)用場(chǎng)景的落地。
軟通動(dòng)力前不久發(fā)布了自己的模型即服務(wù)平臺(tái)——軟通天璇2.0 MaaS平臺(tái)。這一平臺(tái)包括三層,底層的大模型技術(shù)底座(L0級(jí))、中間層的行業(yè)大模型(L1級(jí))及管理、頂層的場(chǎng)景大模型應(yīng)用(L2級(jí));除此之外,軟通動(dòng)力還為客戶(hù)提供大模型一站式運(yùn)營(yíng)服務(wù)、數(shù)據(jù)治理及安全服務(wù)。
在天璇2.0中,軟通動(dòng)力訓(xùn)推一體化平臺(tái)發(fā)揮了核心作用。其基于昇騰硬件底座+昇思MindSporeAI框架,采用軟通G420K訓(xùn)練平臺(tái)和G210K推理平臺(tái),整合歐拉操作系統(tǒng)等組件,搭載軟通自有AI中臺(tái),為客戶(hù)提供多種交互式AI模型,深度適配不同AI應(yīng)用場(chǎng)景,支持多模態(tài)場(chǎng)景,提供了涵蓋大模型訓(xùn)練、測(cè)評(píng)、部署的一整套端到端的安全可信體系。
霍宇介紹說(shuō),軟通動(dòng)力訓(xùn)推一體化平臺(tái),同時(shí)提供對(duì)商用和開(kāi)源大模型的支持,客戶(hù)既可以直接接入商用大模型,也可以基于開(kāi)源大模型進(jìn)行本地化部署。實(shí)際上,大模型的開(kāi)源化趨勢(shì)已經(jīng)非常明顯,正在成為大模型生態(tài)的主流。
除了工具平臺(tái),軟通動(dòng)力也加緊致力于AI專(zhuān)業(yè)人才的培養(yǎng),這也成為其在大模型生態(tài)中的核心競(jìng)爭(zhēng)優(yōu)勢(shì)之一。
毫無(wú)疑問(wèn),大模型的流行將帶來(lái)人才結(jié)構(gòu)的變革,未來(lái)會(huì)需要大量的AI訓(xùn)練師、機(jī)器學(xué)習(xí)工程師、數(shù)據(jù)科學(xué)家等新型人才。在霍宇看來(lái),未來(lái)的AI人才,不僅需要懂AI,也需要懂架構(gòu)。基于過(guò)去的業(yè)務(wù)積累,軟通動(dòng)力已經(jīng)儲(chǔ)備了一大批相關(guān)人才,目前正在加緊培訓(xùn)及在內(nèi)部的算力平臺(tái)上實(shí)踐,幫助他們實(shí)現(xiàn)從編碼邏輯到提示詞邏輯的轉(zhuǎn)換。
這些專(zhuān)業(yè)人才,將會(huì)幫助軟通動(dòng)力的行業(yè)客戶(hù)構(gòu)建自己的大模型,并最大程度地發(fā)揮大模型的作用,將其付諸落地實(shí)踐。
當(dāng)下,基礎(chǔ)大模型的熱潮正在逐漸消退,但定制化大模型和大模型應(yīng)用才剛剛開(kāi)始。隨著應(yīng)用的普及,大模型將帶來(lái)新的服務(wù)范式和商業(yè)模式。霍宇也認(rèn)為,未來(lái)SaaS會(huì)被基于大模型的SaaS所取代。整個(gè)軟件領(lǐng)域甚至ICT行業(yè)生態(tài)的變革正在路上。
原文標(biāo)題:與行業(yè)客戶(hù)共創(chuàng),軟通動(dòng)力大模型生態(tài)開(kāi)辟新路徑
文章出處:【微信公眾號(hào):軟通動(dòng)力】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
-
軟通動(dòng)力
+關(guān)注
關(guān)注
1文章
791瀏覽量
15144
原文標(biāo)題:與行業(yè)客戶(hù)共創(chuàng),軟通動(dòng)力大模型生態(tài)開(kāi)辟新路徑
文章出處:【微信號(hào):isoftstone-group,微信公眾號(hào):軟通動(dòng)力】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論