4月18日至19日，由智東西聯和智猩猩發起主辦的2024中國生成式AI大會在北京JW萬豪酒店召開。

云天勵飛“云天天書”大模型技術負責人余曉填博士受邀出席18日下午大模型專場論壇，并發表主題演講《多模態大模型演進與落地應用探索》。

會上，余曉填博士從人工智能的演進歷程為切入點，介紹國內外大模型技術的發展概況，以及大模型技術落地的三個階段和六大挑戰。以算法芯片化平臺為基礎，云天勵飛推出了自主研發的大模型“云天天書”，以及AI邊緣訓推芯片DeepEdge10。上個月，云天勵飛正式推出邊緣訓推一體產品“深目”AI模盒，致力于大模型在場景落地最后一公里問題。

“算法芯片化”突破技術應用的“三角約束”

從2022年ChatGPT問世以來，國內外大模型項目“井噴式”發展，創新應用層出不窮。伴隨著大模型產業規模的快速增長，探索商業化路徑，成為當下重點。

余曉填博士在演講中提到，大模型技術落地面臨著“三角約束”——精度、成本、效率。

通過“算法芯片化”的核心技術，云天勵飛突破了“三角約束”。在算法芯片化平臺支撐之下，云天勵飛實現了四大創新：

1. 自研的Space推理引擎，提升了推理速度50%以上。

2. 分布式自適應稀疏緩存解碼，減少了GPU需求50%。

3. 可伸縮的大模型訓練技術：通過深度和寬度擴展，訓練效率翻倍，成本降低50%。

4. 神經網絡處理器與推理芯片：適配多種深度學習架構，Chiplet技術解決了工藝對算力掣肘的問題。

通過這四大創新技術，云天勵飛自研大模型“云天天書”不僅在各類榜單中屢獲第一，并且在應用中也取得良好表現。目前，“云天天書”已在政務民意速辦、公文智寫、警務視頻語義檢索、城市道路CT巡檢、企業員工培訓等領域落地應用。

致力于推動大模型“平民化”

上個月，云天勵飛還推出了邊緣訓推一體盒子——“深目”AI模盒，可實現“3個90%”，即覆蓋場景超過90%、算法精度超過90%、使用成本降低90%，解決了大模型在落地場景的最后一公里問題。讓人人都能夠根據自身場景需求，利用大模型能力，訓練出可實戰應用的算法，讓大模型唾手可得。

未來，云天勵飛將以更大力度投入到多模態大模型的技術和應用創新中，為更多行業帶來更便捷、高效、低成本的大模型體驗。

審核編輯：劉清