就在上周，行業大模型隊伍再添一員。

7月8日，在2023世界人工智能大會上，容聯云舉辦了以“數智進化、越級向上”為主題的“生成式營銷服務與大模型”論壇。

論壇現場，容聯云正式發布面向企業應用的垂直行業多層次大語言模型“赤兔大模型”，并發布容聯云“生成式智能營銷服一體化工作空間——機器貓”和“生成式一體化智能客服平臺”，推動企業營銷和服務數智化轉型。

作為云通訊領域的老兵，容聯云很早就開始探索智能化道路：2017年，容聯云發布了語音+文本機器人，此后也持續在人工智能技術上進行產品和解決方案的產業落地探索；2021年，容聯云收購客戶關系管理軟件服務商過河兵科技和數據智能服務商諸葛智能。

此后，容聯云形成“通訊+數據+智能”的技術底座。“通訊建立溝通的物理通路，觸達客戶，各種各樣的數據在通訊過程中傳遞，我們可以基于這些數據來訓練模型，進行智能化探索，從而形成內部的技術閉環。”容聯云AI研究院院長劉杰解釋道。

然而，由于技術不成熟，基于傳統NLP技術的人工智能溝通技巧十分拙劣，常被用戶調侃為“人工智障”。而大模型的出現，讓人工智能和人類的交互過程真正有了“靈光乍現”的瞬間，智能客服、智能營銷等領域也迎來了全新的時代。

「甲子光年」與一眾媒體共同采訪了容聯云COO熊謝剛與容聯云AI研究院院長劉杰，試圖拆解赤兔大模型的專業性與商業化落地能力，并交流了容聯云對國內大模型市場的思考。

1.赤兔大模型：“更懂行”的大模型

ChatGPT發布前，容聯云就在嘗試探索AIGC技術。ChatGPT發布后，容聯云內部便按下了AIGC的加速鍵。

容聯云聯合原有的存量客戶共同嘗試用ChatGPT回答各個場景的問題。他們驚訝地發現，GPT大模型幾乎能替代傳統客服40%的工作量。長遠來看，大模型將賦予智能客服行業全新的生命力。

早年間，基于傳統NLP技術的智能客服常因溝通能力不足被人調侃為“人工智障”。“技術挑戰通常來自于認知層面。”劉杰表示。

劉杰認為，傳統AI能力在會話洞察上會面臨很多問題。“傳統模型由于模型規模和技術的約束，會面臨知識缺失、語義偏差等問題，進而導致我們在人工數據上投入很多運營成本，從而加大了我們的投入成本和開發周期。”劉杰表示。

針對上述問題，通用大模型表現出超過傳統模型的處理能力。但劉杰清晰地意識到，通用的AI大模型并不能解決所有問題。

他表示，AI大模型有很多能力，但是并沒有覆蓋所有能力。尤其在企業的具體場景中，有一些特定的應用能力需求，能否將模型能力進行場景化、應用化適配，是通用大模型走向實際應用落地的重要挑戰。例如，在內容可控性方面，企業服務場景大多要求內容嚴肅、嚴謹，對內容合規和信息準確性有很高要求，而大模型是基于大量知識開放式生成內容，如何讓二者需求匹配便是很大的挑戰。

此外，部署通用大模型需要投入大量成本，“我們能不能讓大模型在to B場景下實現規模化、合理化、務實化地落地也是非常重要的挑戰”。

針對上述問題，容聯云招兵買馬，將技術團隊注入新鮮血液，用半年時間推出了“赤兔大模型”。

容聯云將大模型命名為“赤兔”頗有深意。“首先，赤兔是一匹馬，古人騎馬送信，使馬肩負了傳遞信息，促進溝通的重要職能；其次，赤兔是一匹很強的馬，符合容聯云對大模型的定位和預期；第三，赤兔是懂業務的馬，是垂直領域、面向戰場作戰的戰馬，服務了很多領域的‘頭部客戶’，如呂布、關羽。”劉杰解釋道。

赤兔大模型采用多層次設計思路——首先構建通用模型，通過開源和公開數據獲得通用知識和基礎能力；其次收集高質量的領域數據構建領域模型，以解決特定領域的問題；在業務邏輯和流程上提供智能化服務時，基于業務數據和知識構建高質量的業務模型。

據劉杰介紹，不同層次的模型會配置不同的參數規模，在實際落地場景中，更多是用十億級參數規模的模型來完成服務。

赤兔大模型有四大核心能力——懂交流、會分析、有知識、能執行。

懂交流：在溝通智能2.0的目標下，赤兔大模型能夠進行多維度、細粒度的理解和分析，更動態化地理解客戶同時做更好的內容生成和生產。

會分析：赤兔大模型能夠在客服、營銷場景下對問題進行更高維度的分析、處理，做更深層次的知識輔助。

有知識：除模型預訓練階段納入的通用知識外，模型外部還有很多動態化、業務化的知識，赤兔大模型則能靈活運用外部知識做一些深度的分析和決策。

能執行：傳統AI主要通過應答、對話提供信息反饋，赤兔大模型則能借助外部系統的調用，執行特定動作，自主決定需要調用哪些能力，執行哪些動作，從而相對自動地完成任務。

據劉杰介紹，溝通智能已經進入2.0時代，在赤兔大模型加持下，溝通智能2.0將在AI基礎能力、會話分析洞察、對話能力、人機協同四個方面有大幅提升。

AI基礎能力方面，智能客服依賴的上下文意圖、情感識別、實體識別、信息抽取、相似問生成等能力均可通過AI大模型替換或做能力補充；

會話分析洞察方面，AI大模型可對溝通記錄進行質檢標記、主動分析座席工作行為，自動生成最佳實踐SOP，極大挖掘呼叫中心大量會話信息的潛在價值；

對話能力方面，基于赤兔大模型豐富的參數和強大的內容生成能力，能夠支持智能客服實現更加個性化的問答回復；

人機協同方面，企業可以利用大模型做AI助手的工程化設計，從坐席話務前中后不同環節輔助陪伴坐席更好、更高效的完成業務。

基于赤兔大模型，容聯云的智能體系實現了單點能力的升級、新增以及整個業務邏輯的重構。

2.以業務應用為主導用大模型把產品重做一遍

如今，以赤兔大模型為底座，容聯云已經延伸出兩大業務平臺——生成式智能營銷服一體化工作空間“機器貓”以及生成式一體化智能客服平臺。

論壇上，在劉杰發布赤兔大模型之后，容聯云COO熊謝剛緊接著發布了生成式智能營銷服一體化工作空間“機器貓”，這是容聯云基于赤兔大模型構建的生成式智能“泛服務”應用。

“泛服務”是容聯云提出的適用于大模型時代的新理念。

熊謝剛進一步解釋了“泛服務”的概念：“假設一個環境有足夠的算力，我們就可以嘗試在3-6個月內，把一個企業，乃至一個產業所有相關數據用來訓練大模型。如果這個訓練成果足夠強大，就能夠形成一個一體化工作空間——對外可以應用到所有客戶的服務營銷場景中，對內可覆蓋內部員工的各種服務、運營流程。”

基于泛服務理念，容聯云在赤兔大模型上打造了生成式智能營銷服一體化工作空間“機器貓”。目前，容聯云“機器貓”平臺提供的生成式智能應用已首批落地四大應用場景——在客戶聯絡方面，區別于傳統純人工方式和NLP機器人解決部分服務場景，大模型機器人可解決大部分服務場景，同時進一步降低機器人維護成本和客服數量，用戶體驗提升60%；

在業務協作方面，通過赤兔大模型提供更加智能高效的靈活集成、生成式策略推薦、智能填單、智能分配、智能標簽提取等能力，進一步降低AI運營成本，降低客服服務時長和客訴數量，提升坐席效率；

在AI輔助方面，生成式智能應用賦能下的AI輔助，不再是CC的附加工具，而真正高效幫助企業解決管理難題，實現銷售業績提升；

在智能洞察方面，基于諸葛智能，“機器貓”平臺可為用戶提供各種分析模型、行業指標體系問詢，也可以提供實踐、經驗分析，幫助企業快速成長為分析專家，對于數據報表與指標、用戶標簽與畫像等分析結果，用戶可以通過語音、文字等多種方式進行問答，并得到快速反饋，還可通過語音等驅動進行報表定制。

會上，容聯云數字智能云事業群運營總經理王春生還發布了生成式一體化智能客服平臺。

據王春生介紹，當前智能客服從AI 1.0時代進入AI 2.0時代。基于赤兔大模型，容聯云生成式一體化智能客服平臺可以將知識生產效率提升70%，對話構建成本下降80%，100%提升客戶服務效率，并為客服人員提供文檔智能問答/抽取、用戶語料/業務話術/流程類方案建議自動生成、銷售優秀話術自動提煉等能力。

不難看出，對于“如何擁抱大模型時代”這個問題，容聯云已經有了系統性思考，并交出了一份答卷——以業務應用為導向，用大模型重構原有的產品體系。

3.專注金融，把金融行業做深，做透

在落地行業的選擇上，容聯云并沒有“面面俱到”，而是專注金融，把金融行業做深，做透。

選擇金融，更多是出于數據質量層面的考慮。熊謝剛解釋道：“航天、法律、金融行業都比較適合做大模型，這些行業的數據很嚴謹，語料中沒有調侃的話語和歧義。”

而專注金融，則是源于容聯云想要扎實做業務以及對客戶負責的本心。

“有很多東西需要跟客戶一起做，我們認為最終還是要先把一個行業吃透，把所有關鍵環節經歷一遍，才知道在實際應用過程中，大模型擅長和不擅長的地方。另外，to B市場有很強的行業屬性，我們也不想很多東西都沒搞清楚的情況下就到處布局。”熊謝剛表示。

目前，赤兔大模型主要支持私有化部署。容聯云已經挑選了三家標桿性客戶進行聯合共創，每家客戶都派了一個團隊進去，和客戶一起做大模型之下的行業應用、產品迭代和更新。

盡管如此，在真正落地的過程中，容聯云依然需要面臨五花八門的疑難雜癥。

“在一些客戶的敏感業務，比如交易類業務；或對用戶體驗要求極高的，例如投訴類業務，都對模型服務的精準性有更高要求，這就拉高了我們前期投入的門檻，要把每個場景做得更完整。”熊謝剛分享道。

在這些疑難雜癥背后，是容聯云當前正面臨的兩大核心難題。

首先，是大模型“泛服務”的能力邊界在哪？當后臺大腦越來越強，在專業領域表現越來越好時，對于企業內部的敏感、隱私數據，如何讓模型在可控范圍內服務客戶，將數據安全隱患降到最低？

其次，大模型的核心價值究竟是什么？“IPhone 4作為劃時代產品，它的價值并不是淘汰了傳統手機，而是它真正帶來了移動互聯網應用的爆發。今天我們做大模型也是一樣，我們不能只看它如何改變了過去，更要關注大模型能夠創造哪些新的應用。”熊謝剛表示。

事實上，這兩大難題不僅是容聯云要面對的，更是所有投身大模型的企業都需要面對的。

在一些人看來，“大模型”這個概念本身十分抽象，業內尚未對大模型的能力邊界形成共識，很難出手布局。而在劉杰看來，大模型的定義更多可以從效果和能力上來定性，但很難有一個量化標準，大數據概念也類似，但這不影響企業持續探索大模型的應用價值。

人類在各個組織中也會有專業分工，類似的，企業也需要對大、中、小模型進行專業劃分，多個模型協同，更務實地解決業務需求。實際業務場景中，企業可以根據任務的復雜型和模型通用型的要求，選擇更適合的模型部署。

從技術到應用場景、落地行業的選擇都可以看出，赤兔大模型以及兩大業務平臺的發布對容聯云而言意義重大。赤兔大模型與基于此打造的兩大業務平臺，幾乎可以看作是容聯云在大模型時代的一次“自我重塑”。

如今，大勢已來，更早順應趨勢的企業，便能更早拿到下一個時代的話語權，容聯云終于迎來了厚積薄發的時刻。