科技云報道原創(chuàng)。

“大模型的迭代是一場‘暴力’填數(shù)據(jù)、拔規(guī)模而造就的‘美學盛宴’”，中金公司研究團隊在“AI浪潮之巔”系列報告中如是說。

在大模型發(fā)展初期，大模型或許還稱得上是“大廠的游戲”，但半年之后的今天，國內(nèi)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個，大模型賽道迅速完成了從概念到落地的進程。

業(yè)內(nèi)開始關(guān)注能夠真正扎進行業(yè)、給企業(yè)帶來生產(chǎn)力躍升的大模型產(chǎn)品。

而智能客服和營銷領(lǐng)域，正是大模型改造落地的核心場景之一。

在近日舉辦的2023世界人工智能大會（WAIC 2023）上，容聯(lián)云正式發(fā)布面向企業(yè)應(yīng)用的垂直行業(yè)多層次大語言模型“赤兔大模型”，并發(fā)布了“生成式智能營銷服一體化工作空間——機器貓”和“生成式一體化智能客服平臺”，旨在推動企業(yè)營銷和服務(wù)數(shù)智化轉(zhuǎn)型。

當大模型競爭的重點從通用大模型轉(zhuǎn)向行業(yè)大模型，將為產(chǎn)業(yè)帶來什么樣的變化？

行業(yè)大模型 帶來“溝通智能”

當下行業(yè)內(nèi)達成的一個基本共識是，以ChatGPT為代表的大模型出現(xiàn)，標志著通用AI的起點和強AI的拐點，正在成為新時代數(shù)字化的“發(fā)電廠”。

利用大模型，以云服務(wù)的方式接入到干行百業(yè)，所有數(shù)字化系統(tǒng)和各個行業(yè)都值得重做一遍，更多人期望大模型能使企業(yè)數(shù)字化業(yè)務(wù)流程更快、更高效、更智能。

因此，作為大模型率先落地的智能客服和營銷領(lǐng)域，正在迎來多方入局。

無論是互聯(lián)網(wǎng)巨頭、運營商，還是云、大數(shù)據(jù)、AI等技術(shù)公司，都紛紛發(fā)布大模型試圖進軍智能客服領(lǐng)域。然而聚焦到具體的行業(yè)應(yīng)用，通用大模型卻逐漸顯出短板。

比如，內(nèi)容的不可控性。在企業(yè)服務(wù)場景下，很多回答要求正確、嚴謹、合規(guī)，既希望大模型能夠靈活的回答問題，又能夠在專業(yè)內(nèi)容上符合行業(yè)預期，但通用大模型開放式的生成內(nèi)容，還不能實現(xiàn)行業(yè)化、場景化的適配。

隨之而來的還有規(guī)模和落地的挑戰(zhàn)。通用大模型的能力來源于規(guī)模大，但正是因為大，限制了企業(yè)應(yīng)用中很多場景的落地，不僅對企業(yè)IT基礎(chǔ)設(shè)施建設(shè)提出了更高的要求，同時也帶來了更多的成本支出。

如何在通用與行業(yè)兩個方向平衡，給企業(yè)客戶帶來實際的“降本增效”，成為了大模型廠商關(guān)注的問題。

很顯然，大模型之路已經(jīng)進入一個新階段，即實打?qū)嵉亍霸边M行業(yè)，針對性地給出行業(yè)所獨有的大模型解決方案。

發(fā)力行業(yè)模型，已成為各家共識。而在這一點上，在國內(nèi)系統(tǒng)化公布行業(yè)大模型解決方案的容聯(lián)云，率先為業(yè)界打了樣。

在容聯(lián)云AI研究院院長劉杰看來，過去的十年里，AI技術(shù)在賦能企業(yè)溝通智能上取得了一系列的成績，但在復雜的溝通場景中仍會產(chǎn)生策略的缺位。

隨著AI大模型的演進，展現(xiàn)出在語言能力、多任務(wù)處理和內(nèi)容生成方面的高水平，使人們對AI能力的上限抱有更高的期望，溝通智能也邁向了從1.0到2.0的新時代。

但如何做出一個更精準、更能夠滿足企業(yè)多樣化、靈活化的溝通場景的大模型，不僅僅是在AI基礎(chǔ)能力上進行提升，還需圍繞對話、溝通、交流，在會話洞察分析、對話能力提升、人機協(xié)同等方面都提供更好的能力，從而幫助企業(yè)重構(gòu)智能客服和營銷價值，完成從“降本增效”到“價值創(chuàng)造”的進化。

對此，劉杰表示，溝通智能2.0應(yīng)具備“四大能力”：懂語言、有知識、會分析、能執(zhí)行。

首先，懂語言。滿足溝通智能2.0的大模型，要能夠在交流層面對對話進行多維度、細粒度的理解和分析，同時做更好內(nèi)容上的生成和生產(chǎn)。

因此，容聯(lián)云在赤兔大模型上非常關(guān)注會話洞察和業(yè)務(wù)話術(shù)生成兩個層面。

會話洞察并不是特別新的概念，但有了赤兔大模型后，智能客服和營銷場景在意見挖掘、情感分析、情緒分析、立場檢測、主題檢測等方面都具備了更好的能力。

借助這種洞察，企業(yè)可以在歷史的會話當中更深刻、更動態(tài)化的理解用戶，給用戶生成動態(tài)化的畫像，更好的動態(tài)匹配銷售SOP，挖掘金牌話術(shù)以及做一些事后診斷。

在業(yè)務(wù)話術(shù)生成方面，赤兔大模型會在不同場景下對對話進行風格、內(nèi)容的匹配，并保證業(yè)務(wù)話術(shù)的準確性、嚴謹性。

同時，還會通過赤兔大模型能力，以生成的方式分析文檔，抽取標準化的問答，并自動生成知識庫，從而降低人工的投入。

其次，有知識。雖然大模型通過大量語料的預訓練已經(jīng)嵌入了豐富的知識，但對于溝通智能2.0而言還不夠。

模型還應(yīng)當能夠具備運用外部知識的能力，在模型內(nèi)部的通用知識之外，還需要快速、靈活地運用外部信息進行復雜操作。

因此，容聯(lián)云圍繞文檔向量庫，用大模型檢索非結(jié)構(gòu)化的文檔，回答專業(yè)的知識。

不僅搭建了一套流水線，還在文檔的切片上以及問答的生成上，都做了垂直領(lǐng)域精準化、定制化模型具體場景的微調(diào)。這使得赤兔大模型在問題的回答上更加精準，在行業(yè)應(yīng)用中已超越了大部分的大模型。

其次，容聯(lián)云將大模型和結(jié)構(gòu)化數(shù)據(jù)、數(shù)據(jù)庫、知識圖譜進行了更深度的融合，進一步提升了赤兔大模型對于業(yè)務(wù)數(shù)據(jù)的理解和分析。

尤其是將精準的行業(yè)知識圖譜與大模型技術(shù)作為互補，使得大模型能夠更好地構(gòu)建行業(yè)知識。最終，通過赤兔大模型作為語言接口，企業(yè)能夠快速地分析和獲取結(jié)構(gòu)化數(shù)據(jù)里的知識。

第三，會分析。在溝通過程中，溝通智能2.0的模型應(yīng)該能夠根據(jù)上下文和涉及的信息，對文本、圖像、數(shù)值等數(shù)據(jù)進行合理分析和有效推理，并給出合理的決策。這對于智能營銷和特定服務(wù)流程非常重要。

在大模型產(chǎn)生之前，容聯(lián)云已有多年的技術(shù)探索，對結(jié)構(gòu)化的分析和問答有著深刻的技術(shù)積累。

如今赤兔大模型基于這些場景進行深度的微調(diào)和預訓練，從而得到了更好交互式的數(shù)值、數(shù)據(jù)的分析和理解能力。

比如，用戶可以通過自然語言的交互生成一些數(shù)據(jù)分析代碼，再通過這些代碼的執(zhí)行，得到可視化的分析，甚至是數(shù)據(jù)的自然語言查詢；同時，還可以為這些數(shù)據(jù)提供文字性、專業(yè)性的解讀和描述，從業(yè)務(wù)的角度給出更垂直化的展示和理解。

最后，能執(zhí)行。溝通智能2.0不僅停留在理解和傳遞信息的層面，還具備像人類服務(wù)模式一樣的執(zhí)行能力。

在對話過程中，它能夠根據(jù)客戶需求連接外部系統(tǒng)，執(zhí)行特定動作，以完成特定任務(wù)，滿足客戶的實際業(yè)務(wù)的辦理需求。

基于赤兔大模型，容聯(lián)云進一步重構(gòu)了智能對話的技術(shù)框架。通過大模型的多輪對話管理，能夠更靈活地完成對話應(yīng)答，并根據(jù)交互內(nèi)容完成業(yè)務(wù)的推薦、查詢和辦理等一系列操作。

與傳統(tǒng)對話機器人不同的是，企業(yè)不再需要投入大量的時間和人力構(gòu)建對話話術(shù)的流程圖，赤兔大模型可以在歷史數(shù)據(jù)中自動學習合理的話術(shù)流程。

同時基于大模型少樣本的學習能力，赤兔大模型構(gòu)建對話流程的能力，可以快速在不同的對話場景和業(yè)務(wù)中進行遷移。

企業(yè)只需通過一些指令，對任務(wù)的描述和信息的輸入，就可以靈活的設(shè)置和修改對話流程的管理。

正如劉杰所說，赤兔大模型的應(yīng)用帶來了“單點能力升級、單點能力新增、流程邏輯革新”，這些能力將促成一個全面發(fā)展的溝通智能系統(tǒng)，為企業(yè)和用戶提供更高水平的溝通和服務(wù)體驗。

行業(yè)落地需要“務(wù)實”大模型

盡管大模型很火，但從入局到真正落地并推向市場，其間難度不小。

當廠商試圖用大模型解決實際問題時，往往難以得到滿意的答案。此次容聯(lián)云基于赤兔大模型的產(chǎn)品發(fā)布，則真正在應(yīng)用層面“秀出了肌肉”。

一是容聯(lián)云“生成式智能營銷服一體化工作空間——機器貓”，基于赤兔大模型重構(gòu)了過去智能客服和營銷里的各種服務(wù)功能，通過統(tǒng)一的平臺/工作空間來設(shè)計新一代智能客服和營銷產(chǎn)品，首批落地四大應(yīng)用場景，包括客戶聯(lián)絡(luò)、業(yè)務(wù)協(xié)作、AI輔助、智能洞察。

比如，在客戶聯(lián)絡(luò)場景，借助大模型機器人，“機器貓”可以解決大部分服務(wù)場景，同時進一步降低機器人維護成本和客服數(shù)量，用戶體驗提升60%。

在業(yè)務(wù)協(xié)作方面，“機器貓”可以提供靈活集成、生成式策略推薦、智能填單、智能分配、智能標簽提取等能力，進一步降低AI運營成本，降低客服服務(wù)時長和客訴數(shù)量，提升坐席效率。

在AI輔助方面，生成式智能應(yīng)用賦能下的AI輔助，不再是CC的附加工具，而真正高效幫助企業(yè)解決管理難題，實現(xiàn)銷售業(yè)績提升。

在智能洞察方面，基于諸葛智能，“機器貓”平臺可為用戶提供各種分析模型、行業(yè)指標體系問詢，也可以提供實踐、經(jīng)驗分析，幫助企業(yè)快速成長為分析專家，對于數(shù)據(jù)報表與指標、用戶標簽與畫像等分析結(jié)果，用戶可以通過語音、文字等多種方式進行問答，并得到快速反饋，還可通過語音等驅(qū)動進行報表定制。

二是容聯(lián)云“生成式一體化智能客服平臺”，可以將知識生產(chǎn)效率提升70%，對話構(gòu)建成本下降80%，100%提升客戶服務(wù)效率，并為客服人員提供文檔智能問答和抽取，用戶語料、業(yè)務(wù)話術(shù)、流程類方案建議自動生成，銷售優(yōu)秀話術(shù)自動提煉等能力。

事實上，容聯(lián)云充分考慮到業(yè)務(wù)場景中的營銷和服務(wù)需求的多元化，在赤兔大模型底座上使用了APaaS平臺，以提升功能模塊的靈活性生成。

比如在以營銷為主的場景里，企業(yè)可以通過拖拉拽的方式，迅速在營銷場景中接入服務(wù)相關(guān)的功能模塊；同樣，在以服務(wù)為主的場景里，企業(yè)也可以快速引入營銷的功能模塊。這樣企業(yè)就可以快速搭建自己的智能客服和數(shù)智化營銷平臺，擁有了一個能提供生成式智能應(yīng)用的“萬能口袋”。

在容聯(lián)云COO熊謝剛看來，隨著行業(yè)大模型應(yīng)用精準性的提升，AIGC將完全替代40%傳統(tǒng)客服的工作量，人工主導的客服工作量占比不超過30%，電話語音客服工作量占比不超過20%。

“對于呼叫中心這個發(fā)展了近60年的領(lǐng)域來說，大模型會帶來一個很大的技術(shù)變革，很多東西會消亡掉，原有的產(chǎn)品都將被重構(gòu)”，熊謝剛表示。

行業(yè)大模型的落地推進，除了更智能的表現(xiàn)，大模型的訓練和運營成本、服務(wù)的邊界等問題浮上水面，如何平衡多方面的要求進一步成為大模型落地行業(yè)的必考題。

目前，大模型在訓練和使用過程中仍面臨高昂的成本投入。對此劉杰表示，在實際的行業(yè)應(yīng)用中，應(yīng)提倡“務(wù)實”的大模型。在考慮模型規(guī)模時，不必執(zhí)著于一個模型解決所有問題。

容聯(lián)云的解法，是將模型劃分為三個層次，并且讓這三個層次互相形成閉環(huán)：首先有一個通用知識構(gòu)造的模型底座，進而以它為基礎(chǔ)，通過積累的領(lǐng)域數(shù)據(jù)做行業(yè)化、領(lǐng)域化的領(lǐng)域模型。

在領(lǐng)域模型的基礎(chǔ)上進一步精進，具體到客戶的業(yè)務(wù)當中，基于業(yè)務(wù)的邏輯和數(shù)據(jù)更精準的垂直化構(gòu)建業(yè)務(wù)模型，指向業(yè)務(wù)明確的大模型應(yīng)用。

這就好比人類在各種公司、各個組織中，會有專業(yè)領(lǐng)域的劃分和層次的劃分，所以模型也應(yīng)該合理有效的進行大、中、小模型的層次劃分，從而達到更好的配合，比較務(wù)實的完成行業(yè)服務(wù)和行業(yè)需求。

而在各行業(yè)普遍關(guān)心的數(shù)據(jù)安全合規(guī)方面，容聯(lián)云則設(shè)定了服務(wù)的邊界，通過合理的模型尺度，在企業(yè)客戶內(nèi)部私有化部署，內(nèi)置相應(yīng)的安全機制和規(guī)范等方式，以滿足行業(yè)對于數(shù)據(jù)安全性的要求。

“要讓行業(yè)客戶通過大模型來認同你做的事情，除了前期的投入門檻，還有你做的大模型是不是足夠完整全面，以及你的邊界在哪里。

特別是服務(wù)這種注重體驗的場景，或者一些交易類業(yè)務(wù)場景，大模型之下提供的服務(wù)精準性就變得很重要”，熊謝剛表示。

“行業(yè)認知”將拉開競爭差距

事實上，智能客服和營銷領(lǐng)域作為一個百億級的潛力市場，一直以來都是兵家必爭之地。

但隨著AI大模型的出現(xiàn)，為智能客服的升級提供了新的突破口，越來越多不同類型的廠商開始涌入這片熱土，進一步加劇了賽道的競爭。

特別是一些通用大模型的開源，使得過去沒有對話交互技術(shù)的廠商，也能夠很快具備對話的通用能力，這給了容聯(lián)云這類在智能客服領(lǐng)域深耕了十余年的廠商一場迎頭痛擊。

熊謝剛坦言，第一次接觸ChatGPT以后，對智能客服這個領(lǐng)域的前景感到擔憂。但隨著容聯(lián)云快速跟進大模型的研發(fā)，從通用基礎(chǔ)模型進一步轉(zhuǎn)向?qū)Ｗ⑿袠I(yè)大模型，容聯(lián)云內(nèi)部的信心很快就回來了。

劉杰表示，大模型技術(shù)的確淘汰了過去的技術(shù)，這一刻所有廠商都站在了新的起點去賽跑，但各家在技術(shù)的理解、應(yīng)用場景連接和對齊上仍存在差距。

在智能客服領(lǐng)域，企業(yè)客戶要求的不僅僅是快速搭建應(yīng)用，而是模型能力的行業(yè)垂直化，這就要求廠商要有技術(shù)積累和行業(yè)認知，才知道用什么樣的數(shù)據(jù)，能夠讓模型具備什么樣的能力，解決什么樣的問題。

劉杰舉例道，大模型體量的增大，對于數(shù)據(jù)樣本的量和質(zhì)都有了新的要求，如何收集高質(zhì)量數(shù)據(jù)，如何用技術(shù)的手段去擴充數(shù)據(jù)，得到規(guī)模更大、質(zhì)量更高的數(shù)據(jù)去訓練大模型，對所有廠商的技術(shù)都是考驗。

同時，大模型必須懂行業(yè)，在數(shù)據(jù)規(guī)模沒有那么大的情況下，如何訓練出行業(yè)需要的回答？比如有的行業(yè)回答要求精確度，有的要求合規(guī)，有的要求上下文保持答復的一致性，這就需要提供不同大模型的解決方案，對行業(yè)答復進行優(yōu)化。

正因如此，劉杰認為，“在一般場景上，大家在通用能力上可能會拉平，初始差距并不大，但前行一段后，就會有相應(yīng)差距出來”。

對于容聯(lián)云而言，其AI團隊早在ChatGPT出現(xiàn)之前就投入了AIGC關(guān)鍵技術(shù)的研發(fā)，在對話回復生成、問題自動生成、SQL語句生成方面都取得了突破，核心技術(shù)在權(quán)威競賽和評測榜單中取得多個第一和Top名次。

在技術(shù)層面，容聯(lián)云很快就適應(yīng)了大模型的技術(shù)變革，并將過往的AI算法研發(fā)經(jīng)驗應(yīng)用到大模型技術(shù)調(diào)優(yōu)中。

而專注行業(yè)大模型，尤其是聚焦在金融行業(yè)，使得容聯(lián)云能夠充分發(fā)揮自身在金融行業(yè)的認知優(yōu)勢。

結(jié)合行業(yè)認知和知識積累，容聯(lián)云進一步將大模型領(lǐng)域化、垂直化，這將極大拉開與同行的競爭差距。

不僅如此，熊謝剛還認為，基于大模型做好業(yè)務(wù)應(yīng)用的創(chuàng)新，也將成為容聯(lián)云未來的競爭力。

“回想iPhone作為劃時代的產(chǎn)品，并不是淘汰、消滅了傳統(tǒng)手機，而是它真正帶來了移動互聯(lián)網(wǎng)層出不窮的應(yīng)用。

所以今天做大模型不是看改變了過去什么東西，而是用大模型能夠創(chuàng)造什么新的應(yīng)用，包括在細分的客服和營銷場景，有什么新的應(yīng)用出來”。

熊謝剛表示，“我們不怕大模型會對智能客服整個賽道做任何的改變，只要抓住了應(yīng)用創(chuàng)新這個點，就可以擁抱這個改變”。

這種對于未來競爭的信心，也充分體現(xiàn)在容聯(lián)云對大模型的命名中。赤兔作為“日行千里，夜走八百”的戰(zhàn)馬，一方面擔負著信息加急傳遞的任務(wù)，另一方面更是實力強勁、能打勝仗的好馬。

赤兔的寓意，代表著容聯(lián)云對于大模型的定位和期望，希望能夠在垂直領(lǐng)域上賦能溝通智能2.0，為整個行業(yè)的服務(wù)提供助力和支持，并在這場大模型的“百團大戰(zhàn)”中沖出重圍。

【關(guān)于科技云報道】

專注于原創(chuàng)的企業(yè)級內(nèi)容行家——科技云報道。成立于2015年，是前沿企業(yè)級IT領(lǐng)域Top10媒體。獲工信部權(quán)威認可，可信云、全球云計算大會官方指定傳播媒體之一。深入原創(chuàng)報道云計算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等領(lǐng)域。

審核編輯 黃宇