離線NLP，這是探境科技給出的答案。離線NLP，或稱端側(cè)NLP技術(shù)，是不依賴云端算力，通過端側(cè)芯片來實現(xiàn)自然語言理解的方案。探境科技CEO魯勇堅信：隨著AI語音模型的輕量化，以及端側(cè)芯片算力的逐步提高，AI語音最終將全部以分布式的部署到終端設(shè)備上。每一個時代都有一種占主導(dǎo)地位的交互方式，人類的生產(chǎn)及生活方式也因此被改變。

未來十年我們的生活將變成什么樣子？盡管眾多科技公司的技術(shù)演進方式并不相同，但語音交互一定是繞不開的命題。

自1952年AT&T貝爾實驗室研發(fā)的語音識別系統(tǒng)Audry算起，語音已在科技史上歷經(jīng)了70年的變革，語音方案也漸漸從云計算中心向邊緣端下沉。

當時間的飛輪馳入2022年，語音又將給出什么樣的驚喜？

離線NLP，這是探境科技給出的答案。離線NLP（Natural Language Processing，自然語言處理），或稱端側(cè)NLP技術(shù)，是不依賴云端算力，通過端側(cè)芯片來實現(xiàn)自然語言理解的方案。探境科技CEO魯勇堅信：隨著AI語音模型的輕量化，以及端側(cè)芯片算力的逐步提高，AI語音最終將全部以分布式部署到終端設(shè)備上。

01離線NLP即普世，又普適

盡管語音成為 IoT 設(shè)備的交互標配是大勢所趨，但從現(xiàn)實來看，在各式各樣名目繁多智能音箱在不斷的“教育和打磨”市場后，AI語音的智能家居并未如設(shè)想一般進入尋常百姓家。

這主要由于傳統(tǒng)實現(xiàn)語音支持主要通過云端來實現(xiàn)，配置維護難度極高，如Wi-Fi經(jīng)常斷網(wǎng)、下載各類APP、要進行各種繁瑣操作等，復(fù)雜程度讓人望而卻步，用戶不愿意花精力去學(xué)習(xí)。

“所有的高科技一定是要化繁為簡，家電應(yīng)該以人為中心，越智能的家電，用起來就應(yīng)該越簡單、那些讓人望而生畏的家電，只適合被敬仰，不適合被使用。”魯勇解讀說。“想要翻越用戶體驗這座大山，必須解決傳統(tǒng)配置方式帶來的市場端問題。”

與之相比，離線語音方案則無需依賴云端技術(shù)，可以直接在本地語音控制家電產(chǎn)品，并且不需要其它額外的操作，即插即用，擁有更快的響應(yīng)速度和更好的隱私保護，與云端相比，更符合原有家電使用習(xí)慣，屬于更為普世的“百姓智能”。

如果說AI語音從在線到離線是一大躍遷的話，那從離線到離線NLP則是另一個層面的飛躍。離線NLP讓自然語義從云端下移到了端側(cè)，用戶與家電之間的交互就像日常對話，既操作簡單，又交互自然。離線NLP在應(yīng)用層面給到用戶更普適體驗的同時，也勢必會加速其在國內(nèi)家電市場落地的腳步。

此外，將語音處理放在端側(cè)，對于家電廠家而言，從搭建并運營一套復(fù)雜的云端系統(tǒng)，變成了元器件級別的改造，直接從生產(chǎn)端切入，降低了產(chǎn)品間的轉(zhuǎn)換成本，這也是魯勇對于離線NLP落地前景看好的底氣之一。

02芯片和算法 咬合緊密的雙輪 NLP 引擎

越易用的產(chǎn)品，內(nèi)核往往越復(fù)雜。

離線NLP方案的挑戰(zhàn)在于要低功耗情況下保持高性能、低成本，減少由于環(huán)境復(fù)雜和模型壓縮帶來的精度損失。這對于技術(shù)層面的考驗有兩個：一方面在芯片設(shè)計時要在低成本的前提下，考慮到算法的需求，包括算力、存儲容量等是否滿足需求，并且是否有盈余以應(yīng)對未來的再升級。

另一方面，在算法層面要考慮對深度學(xué)習(xí)的支持度上是否夠廣泛，同時根據(jù)芯片所能實現(xiàn)的能力進一步優(yōu)化和整合，保持原信息處理能力的輕量化算法重新構(gòu)建能力。

這就需要在底層芯片與高精度算法間騰挪跌宕，進行軟硬協(xié)同的全面整合，才能實現(xiàn)兩者間的高度耦合。

探境的離線NLP芯片Voitist721，作為探境性能強勁的三核AI芯片，集成NPU、DSP和CPU三核，并且實現(xiàn)了對算法模型的端到端支持。

此外，支撐端到端的 NLP意味著不用局限于人為設(shè)計的數(shù)量有限的關(guān)鍵詞，而是依靠知識圖譜和基于注意力機制的深度學(xué)習(xí)算法，挖掘出自然語言表達中所蘊含的信息，以適應(yīng)更為靈活的表達方式和更為廣泛的落地場景。

要想在離線NLP領(lǐng)域構(gòu)筑全新價值，需要做到以下兩點，一是語義識別的廣泛度，二是更高的準確度。

這就需要在算法模型下足功夫，“深挖洞，廣積糧”，探境的算法模型工業(yè)化生產(chǎn)平臺，是終端智能落地應(yīng)用的強有力支撐，能夠有效解決遠場識別、誤喚醒率、噪聲干擾、地域口音、詞語泛化等核心用戶體驗痛點，其基于統(tǒng)一數(shù)據(jù)管理系統(tǒng)的采集、訓(xùn)練、測試三大系統(tǒng)平臺整體聯(lián)動，快速響應(yīng)能滿足批量化發(fā)布的業(yè)務(wù)需求。

據(jù)魯勇透露，探境NLP算法今年上半年就已經(jīng)研發(fā)成功，并且憑借超強的人機交互能力，讓多個頭部客戶的眼前一亮，從而獲得了進一步打開離線AI語音市場的新“鑰匙”。

03正在形成的正反饋

不止是技術(shù)要“探路”，市場也更是循序漸進式的。

“智能家居市場的需求是碎片化的，每個公司每個品牌都有不同的利益訴求，我們的做法是先做出一些爆款，在市場打響，相當于走到市場中教育了一部分用戶，然后用戶反饋來拉動更多廠家的加入，慢慢形成正反饋，從而達到反哺這一行業(yè)的目的。”魯勇對離線NLP應(yīng)用充滿信心。

“從目前來看，燈具、空調(diào)、窗簾、風(fēng)扇等應(yīng)用的接受度都在肉眼可見的擴大，許多頭部的大客戶開始逐步進入批量出貨階段，這也意味著市場在真正起勢。”魯勇的話語透露出一股自豪。

探境科技合作伙伴包括美的、海爾、松下、歐普、奧克斯等知名廠商，從0到1的突破之后，從1到100也變得順理成章。探境不僅客戶層面形成了規(guī)模效應(yīng)，芯片層面的布局也一一展現(xiàn)，探境擁有更強算力的722芯片已成功點亮，明年年初實現(xiàn)量產(chǎn)，面向超低功耗可穿戴市場的芯片也將面世。

魯勇表示，今年探境的出貨量在幾百萬片，憑借離線NLP等技術(shù)的加持，及多個芯片系列的推出，預(yù)計明年銷量會實現(xiàn)指數(shù)型的上升。

魯勇認為，家居場景下的智能化可分為三步。第一步是輕智能，賦予電子產(chǎn)品輕量級卻實用性很高的語音控制功能，快速將單品智能化推向用戶市場。

第二步是重智能，在終端AI芯片上升級更強大的算法，讓單品變得更加智能，例如自然語義理解、多模態(tài)識別等，同時疊加IOT聯(lián)網(wǎng)，無需連接云端，單品之間就可以構(gòu)建一個保護隱私且用戶體驗更好的智能家居整體場景。

第三步是進一步深化軟硬件協(xié)同，實現(xiàn)深度智能，構(gòu)建屬于未來的AI產(chǎn)品，包括情感分析、對話、類人機器人等科幻級產(chǎn)品，將AI技術(shù)提高并融入生活。

探境的愿景其實很簡單：讓用戶在家居場景下能夠?qū)崿F(xiàn)“想到-說到-做到”的自然交互過程，不必再看那些冗長繁瑣的說明書，學(xué)習(xí)那些復(fù)雜的家電操作步驟，實現(xiàn)“有電就有智能化”的體驗。

就像科幻電影鋼鐵俠的賈維斯，用戶回到自己家里以后，不需要特意去尋找開關(guān)或者遙控器也好，他可以在屋子里的任意一個角落，邊走邊說，賈維斯把窗簾都打開，給我倒一杯檸檬水，這些設(shè)備就開始配合工作起來了。

柯林斯在《從優(yōu)秀到卓越》提到過飛輪效應(yīng)，有一個巨大的、無比沉重的輪子，想讓它轉(zhuǎn)起來，開始要費很大的勁，但只要你用力的方向正確，一直推下去，輪子會越轉(zhuǎn)越快，到后面，你只要使很少的力，輪子依靠以往積聚的勢能就可以轉(zhuǎn)得飛快。

從離線NLP到更高級的深度智能，“飛輪效應(yīng)”正在向我們駛來。