【觀察】軟通動力霍宇：以服務入局大模型賽道，打通落地“最后一公里”
進入2023年，ChatGPT推動世界步入一個全新時代——大模型時代，它不僅引發了AI產業的整體升級換代，同時也讓各種大模型層出不窮，背后的關鍵原因在于，大模型能普遍提升生產力，而業內眾多公司也都在積極尋找應用大模型和生成式AI的機會，希望在產業端有所作為。確實如此，ChatGPT之所以被稱為AI的“iPhone時刻”，源于ChatGPT為代表的生成式AI能夠讓每個人命令計算機解決問題成為了可能，其可對生產工具、對話引擎、個人助理等各類應用，起到協助人、服務人甚至超越人的角色，而憑借這項革命性的技術突破，ChatGPT在搜索引擎與各類工具軟件中率先掀起應用熱潮，并引起了行業用戶對ChatGPT相關技術的關注與學習。同時，海量下游應用也因此捕捉到新的技術與產業機會，希望通過各類大模型與工程化能力，將類ChatGPT產品能力輸送到原有的應用中，更好的賦能企業的數智化轉型。
但也要看到，要讓大模型從“已有”走向“可用”并不是“一蹴而就”的過程，更多的企業通常會面臨數據資源有限、算力投資難度大、模型泛化能力差、高水平人才稀缺的發展瓶頸。也正因此，對更多的企業來說，未來更加“務實”的做法，就是選擇適合自己的大模型服務商，“站在巨人的肩膀上”，更好地“用好”大模型。正是洞察到這種迫切的市場需求，作為數字化轉型的實踐者和賦能者，軟通動力近年來始終堅持以全棧式數字技術為行業客戶創造價值，特別是在大模型領域，軟通動力也在積極地探索與實踐，希望憑借自身在AI基礎設施、AI專業人才，AI生態以及在通用領域和專用服務領域沉淀的豐富應用實踐，為行業客戶提供大模型落地的專業服務，打通大模型落地“最后一公里”，更好地加速千行百業擁抱大模型的新時代。大模型落地的四重挑戰毫無疑問，幾乎沒人會懷疑大模型對未來的顛覆性影響。但現實是，國內對大模型的探索仍處于早期階段，無論在研發、迭代還是使用階段，大模型都是一個消耗資源巨大、使用成本也不低的“奢侈品”。除了成本居高不下之外，企業想要在實際業務場景中部署使用大模型，還面臨著數據、參數調優、人才等諸多的落地難題。
三是，從算法的維度看，AI模型的發展從AlexNet發布開始，隨后的研究多數是圍繞著模型的深度和廣度探索，發展至今已有BERT、 GPT等典型模型出現，也掀起了預訓練模型的熱潮，目前國內的大模型參數也已經攀升至千億、萬億級別，其準確度也在不斷的刷新 SOTA。但與此同時，對于企業而言，如何選擇合適自身的預訓練模型，如何在具體場景和任務下，基于成熟的大模型進行微調能夠快速地產生準確結果，以及究竟是選擇商用還是開源的大模型服務，如何平衡成本和訓練效果，同樣也是非常讓人“頭疼”的問題。四是，從人才維度看，隨著越來越多的企業開始廣泛應用大模型，相關的人才需求也成為了新的挑戰。以在人工智能產品實際使用過程中進行數據庫管理、算法參數設置、人機交互設計、性能測試跟蹤及其他輔助作業的AI訓練師為例，相關數據顯示，這類人才目前就出現了大量的“缺口”亟待滿足。不難看出，雖然我們已經見證了大模型開始與場景、行業進行深度融合并取得了不錯的成績，驗證了大模型已不僅在科技企業中應用，也邁出了走向千行百業的步伐，但大模型的落地并不是一件簡單的事情，仍需要解決好算力、數據、算法、人才等方面帶來的全新挑戰。以服務入局大模型賽道基于此，從今年年初開始，軟通動力就積極布局大模型賽道，不僅投資建設AI算力基礎設施，同時也站在服務和落地的視角，希望能夠憑借自身在AI人才資源，AI平臺工具，AI合作生態以及“躬身實踐”中沉淀的經驗和方法論，和行業客戶共創能夠落地的大模型服務，更好地幫助企業迎接大模型時代的到來，具體來說：首先，在AI人才資源方面，這是軟通動力在大模型賽道中獨具特色的優勢。公司憑借十余年的技術積累和行業經驗沉淀，通過將自身的服務能力橫向拉通、整合之后，目前不僅能夠為行業客戶提供“全?；钡臄底旨夹g服務，同時更積累了一大批高質量的數字化人才。“我們的第一個切入點就是AI人才方向，投入專門的算力平臺作為培養工程師上手并熟悉大模型的工程實踐環境，能夠讓相關開發語言的工程師和架構師更快更熟練玩轉大模型，希望通過對算力及人才的投資，讓他們能夠把大模型從產品到落地應用之間的鏈條打通，成為大模型領域的專家。而在未來，這批專家資源的能力不僅可以傳遞給更多的員工；另一方面，對企業來說，也可以直接獲得專家資源的幫助，直接進行企業所需要的大模型開發或者提供參數調優等相關的服務?！被粲钫f。
最后，是大模型落地實踐方面，軟通動力也正在和行業客戶通過“共創”的形式，更好地推動企業擁抱大模型時代。“現在不少行業客戶都找到軟通，他們認為目前如果企業自己要搞一套大模型是有困難的，這些行業客戶的優勢在于他們有不少的行業數據，但是并不知道如何讓這些數據更好地實現語料化，或者如何讓大模型在節省算力的基礎上，更快地實現訓練或者推理等等。除此之外，搭建行業大模型，前期的規劃以及選型，也是一道門檻，而這些正是軟通動力擅長的工作，因此雙方可以通過共創的形式，共同推進大模型的落地，目前公司已經和不少的銀行和保險行業的客戶展開相關的合作?！被粲钫f。正如IDC最新發布的《AI大模型技術能力評估報告，2023》中提到的：“對于行業用戶來說，在關注廠商大模型技術棧完備性的同時，應著重考察廠商的產業應用經驗積累，主要發力點應集中在應用層，將技術應用到實際業務場景中，提前布局，積累行業、場景經驗和數據，由此才能‘站在巨人的肩膀上’打造差異化競爭優勢?！睆倪@個角度來說，軟通動力在大模型服務領域積累的四大優勢，無疑可以更好地幫助企業擁抱大模型，加速企業的數智化轉型。打通落地“最后一公里”事實上，軟通動力以服務模式“卡位”大模型賽道，本身也是深思熟慮和審慎考量的結果。霍宇告訴我：“當大模型浪潮襲來之時，我們首先否決掉的就是自己下場做通用大模型平臺，更多還是考慮從行業大模型的賽道入手，但深入研究之后又發現，要做行業大模型，垂直行業中的數據和語料也至關重要。因此,作為一家服務型的公司，軟通動力以服務的模式切入這個市場是最為合適的，我們可以通過專家資源、平臺工具，以及經驗和方法論，加上行業客戶手中的數據資源，雙方以共創的形式合作，是能夠以較快方式實現大模型落地的。”同樣，以“服務”模式入局大模型賽道，也讓軟通動力能夠以更加“全局”的視角來觀察和看待整個大模型市場，并從中沉淀和總結出了不少大模型落地中值得重視的關鍵事項。
第一，是關于開源和商用大模型的選型問題。對此，霍宇認為，基于業務的需求情況，中國企業也會像選擇公有云和私有云部署那樣，既會選擇直接接入商用大模型，也會選擇基于開源大模型部署本地化的服務。“拋開算力資源問題不說，如果單看模型參數大小，開源大模型在相對小的規模上能力已經接近商用模型，漸漸有了趕超的勢頭。另外，相對追求大而全的通用商用大模型，在垂直領域的模型訓練上，開源模型的數量已經超過商用模型，因此企業不用太擔心開源大模型會落后于主流的商用大模型平臺。而在行業大模型領域，應該說整個市場都還不太成熟，還處在探索與實踐的階段，這就需要整個產業鏈通過共創的方式，推動行業大模型的慢慢成熟，最終打通落地的最后一公里?！被粲钫f。第二，除了算力和模型參數之外，企業應該把重心放在數據以及語料的沉淀上。在霍宇看來，目前語料確實是一個稀缺資源，但很多企業沒有意識到這一點，未來企業如果要做大模型，數據和語料就是繞不開的問題。也正因此，數據和語料的質量問題就變得尤為重要，同樣底層數據的清洗、標注、治理等一系列的工作也變得更加地迫在眉睫。“我們目前也正在幫助一些行業客戶做數據治理的工作，我們判斷做數據和語料的工作還會長久持續，只不過很多工作如數據標注、數據收集的工作會變成‘工具+人工’的方式，同時這些數據和語料也會更加關注行業屬性。不僅如此，在具體的實踐過程中，我們也總結和沉淀了如何把語料或數據形成標準化的方法論，多大的參數量需要‘喂’它多少的語料能夠達到比較合適的性價比，這都是軟通動力正在做的事情。在此基礎上，業務規則的設定，數學建模以及參數調優，以及后續長期的優化等工作，我們也都是可以為行業客戶提供相關服務的?！彼f。
申耀的科技觀察，由資深科技媒體人申斯基創辦，20年企業級科技內容傳播工作經驗，長期專注產業互聯網、企業數字化、ICT基礎設施、汽車科技等內容的觀察和思考。
原文標題：【觀察】軟通動力霍宇：以服務入局大模型賽道，打通落地“最后一公里”
文章出處：【微信公眾號：軟通動力】歡迎添加關注！文章轉載請注明出處。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
軟通動力
+關注
關注
1文章
791瀏覽量
15144
原文標題：【觀察】軟通動力霍宇：以服務入局大模型賽道，打通落地“最后一公里”
文章出處：【微信號：isoftstone-group，微信公眾號：軟通動力】歡迎添加關注！文章轉載請注明出處。
發布評論請先 登錄
相關推薦
解決驗證“最后一公里”的挑戰：芯神覺Claryti如何助力提升調試效率
過程中必不可少的一環，它幫助工程師找到問題的根源并進行優化。隨著設計復雜性的提升，調試作為驗證的“最后一公里”正面臨越來越多的挑戰。如何有效提升調試效率，已成為行
中軟國際模型工場加速各行業智能化進程
介紹了中軟國際模型工場如何通過全棧AI場景化服務，解決大模型在企業應用中的核心痛點，幫助企業實現從探索到全面實踐的智能化轉型，打通AI應用
軟通動力聯合華為助力永鋒臨港建設鋼鐵行業大模型
近日，軟通動力憑借AI、大數據、云計算等服務能力成功簽約山東鋼鐵集團永鋒臨港有限公司AI大模型建設實施項目。作為華為云盤古大模型
亞馬遜云科技與伊克羅德信息攜手，共推AI賦能產業升級
近日，伊克羅德信息科技，作為業界領先的數智化轉型服務商，與亞馬遜云科技正式簽署了一項為期四年的市場拓展戰略合作計劃（SCA）。雙方將深度整合云端前沿技術與生成式AI解決方案，旨在打通AI應用落
言犀智能體平臺上線了！趕緊來試試！連接大模型與企業應用的“最后一公里”
言犀智能體平臺是企業級一站式 AI 智能體搭建與發布平臺。聚合大模型、知識庫、插件、工作流等能力，為用戶提供低成本將LLM落地為企業應用的SaaS平臺。無需代碼基礎亦可便捷的使用大模型
億鑄科技談大算力芯片面臨的技術挑戰和解決策略
隨著人工智能技術的飛速發展，算力已成為推動產業變革的關鍵力量，但大模型的快速發展，參數的爆發，對于算力需求也提出了更高的要求，帶來了全新的挑戰。那大算力芯片應對這些挑戰，如何才能夠助力人工智能技術的發展，實現算力的落地和最后
北京靈奧科技基于亞馬遜云科技打造大模型中間件
企業AI應用落地的最后一公里。靈奧科技現已服務全球超過30,000家用戶，廣泛覆蓋電商、金融、法律、房地產、教育和能源等行業。 大模型中間件
軟通動力攜手伙伴共創母嬰行業垂域大模型
業應用領域進行聯合創新，落地應用場景，尤其是在垂域大模型領域，雙方聯合伙伴展開了積極的探索和緊密的合作，共同助力行業企業實現更深層次的數智轉型升級，例如本次大會期間，軟通動力攜手華為云
軟通動力：資產要素驅動下的數據資產入表
當前，數據資產作為數字化轉型進程中的新興資產類型，正日益成為加快數字經濟發展的重要戰略資源。6月16日，以“基于數據要素的新質生產力”為主題的“2024 CIO百人會高峰論壇”在北京舉辦，軟通動力
云天勵飛正式發布“深目”AI模盒，讓大模型應用平民化
3月28日，云天勵飛舉辦AI大模型產品發布會，正式發布“深目”AI模盒。該產品能夠做到“3個90%”——覆蓋場景超過90%、算法精度超過90%，使用成本降低90%，解決大模型在場景落地最后
華為中國合作伙伴大會2024 | 軟通動力全面布局算力服務
而生 數智有為"為主題的華為中國合作伙伴大會2024在深圳舉辦。大會現場， 軟通動力數字基礎設施與集成高級解決方案總監戴鵬 向與會嘉賓分享了《軟通動力算力
科技賦能，MTW400A為農村飲水安全打通“最后一公里”
日前，山東省政府縱深推進國家省級水網先導區建設，持續深化“水網+”行動，著力構筑水安全保障網、水民生服務網、水生態保護網，建設水美鄉村示范帶、內河航運示范帶、文旅融合示范帶、綠色發展示范帶，推動形成
軟通動力“梧桐·招聘”入選中國首部大模型應用權威案例集
在2024年中國信息通信研究院ICT+深度觀察報告會上海分會場暨“虹橋之源”大模型驅動數字經濟新生態峰會上，一部備受矚目的權威成果《2023大模型落
軟通動力"梧桐?招聘"入選中國首部大模型應用權威案例集
《2023大模型落地應用案例集》（以下簡稱"《案例集》"）重磅發布。軟通動力智能招聘系統"梧桐?招聘"作為垂類大模型代表，成功入選《案例集》
工商網監
評論