互聯(lián)網(wǎng)時代，電腦是計算平臺的核心，而鼠標(biāo)和鍵盤作為互聯(lián)網(wǎng)第一代交互方式，曾徹底引燃了電腦時代。到了移動互聯(lián)網(wǎng)時代，智能手機開始站上計算平臺的核心位置，多點觸摸操作成為第二代革命性交互方式的標(biāo)志。

交互方式從一維的按鍵、點擊交互，演變到了二維的多點觸摸交互。我們看到，正在邁向的萬物互聯(lián)數(shù)字世界，三維多模交互手段必將在新的計算平臺XR（AR/VR/MR的統(tǒng)稱）中扮演極其重要的角色，為智能世界打造極致的超現(xiàn)實用戶體驗。如果說，Windows系統(tǒng)的圖形化界面把人們從Dos系統(tǒng)下解放出來，用更符合直覺和人性的方法讓人們對電腦進行操作是一次新技術(shù)的跨越的話，多模交互超現(xiàn)實體驗則是另外一次意義更為深遠(yuǎn)的騰躍。網(wǎng)絡(luò)和電腦技術(shù)，終于使得數(shù)字世界和現(xiàn)實世界全面融合，人類升級為真正意義上的數(shù)位人。

實現(xiàn)超現(xiàn)實體驗的前提是什么？

多模交互的超現(xiàn)實體驗，需要虛擬世界與真實世界的無縫融合，并能夠準(zhǔn)確感知、還原世界，在虛實結(jié)合的混合現(xiàn)實世界中理解用戶的意圖。此外，多模交互需要打通視覺、聽覺、觸覺、嗅覺等多種感官體驗，實現(xiàn)人與成千上萬種邊緣設(shè)備之間的交互。為實現(xiàn)這個目標(biāo)，需要將用戶所處的整體環(huán)境作為一個超級數(shù)字世界來對待，依托語言、肢體、觸覺、光感、腦機、表情、意識等，進行信息采集和傳輸，并識別用戶意圖、再通過裸眼3D、全息投影、AR眼鏡、數(shù)字嗅覺和數(shù)字觸覺等科技呈現(xiàn)給用戶，從而實現(xiàn)超現(xiàn)實的交互體驗。

在超現(xiàn)實體驗里，傳統(tǒng)的鼠標(biāo)、鍵盤和多點觸摸交互已經(jīng)無法滿足XR設(shè)備的交互要求。簡單的說，在沒有實體屏幕和物理控制設(shè)備的前提下，人類無法在一個虛擬三維環(huán)境里，通過簡單的鍵盤、鼠標(biāo)或多點觸摸來完成復(fù)雜的命令輸出。以手勢操控為例，終端設(shè)備需要捕捉到三維空間內(nèi)手指的動作，同時完成對時間和空間的判斷，并同步發(fā)出指令以完成用戶的意圖。終端設(shè)備還必須清晰判斷出用戶發(fā)出的語音指令，甚至根據(jù)用戶的行為習(xí)慣來判斷用戶的下一步意圖是什么。這種交互方式，就是我們常說的本能交互--最大化以用戶心智模型出發(fā)，使用共識或易學(xué)、易用的操作，讓用戶少點思考、少點疑惑、少點反復(fù)。

真正的挑戰(zhàn)來了

雖然超現(xiàn)實體驗未來可期，但現(xiàn)有的交互設(shè)備和交互環(huán)境，還不能實現(xiàn)較高的操作精度，面向一般消費者的產(chǎn)品，仍然需要技術(shù)和商業(yè)上的不斷突破。

-面向移動

對移動位置的控制來說，設(shè)備需要完成用戶在三維空間上的原始解放。置身于近乎無限的在虛擬空間中，用戶可以在虛擬的三維空間中不受任何限制的移動。這種不受限的行動，雖然使用戶的感官上已經(jīng)從現(xiàn)實世界里脫離了出來，但自身仍然無法脫離物理世界。絕對的行動自由，是對環(huán)境規(guī)則的否定。所以物理世界與數(shù)字世界仍然需要進一步的融合，才能讓用戶擺脫現(xiàn)實世界的束縛真正進入虛擬世界里去。這種融合的前提是：通過一種外部的框架來實現(xiàn)的支撐和隨動。

-面向手部操作

用戶的手部操作一般占日常整體動作的八成以上，如果沒有精準(zhǔn)的手部動作捕捉、特征追蹤、動作識別、空間定位系統(tǒng)，整個基于手部的操作環(huán)境都難以建立。手部操作的功能性體現(xiàn)在終端的業(yè)務(wù)執(zhí)行；手部操作表達性體現(xiàn)在窗口文字內(nèi)容輸出；手部操作的社交性體現(xiàn)在肢體語言上，由手勢和肢體動作共同構(gòu)成。

因此，手部交互設(shè)備除了要符合以上的基礎(chǔ)條件之外還要遵循輕量級、可拓展、開放性強等特點。

-面向數(shù)據(jù)輸入

從某種程度上來說，XR是人類真正數(shù)據(jù)化自身的開始。在這個起點，用戶的一切行為都可以被數(shù)據(jù)采集。同時，數(shù)據(jù)監(jiān)測的范圍也有效擴大了，可以預(yù)見，未來一定是行為心理學(xué)和統(tǒng)計學(xué)的勝利。除去用戶肢體行為形成的數(shù)據(jù)，用戶在任何位置的停留、視覺選擇、手部操作，都可以成為用戶個人數(shù)據(jù)的采集范疇。而當(dāng)務(wù)之急，能否形成一套基于動作、語言的數(shù)據(jù)輸入交互系統(tǒng)，對現(xiàn)階段繼續(xù)有效推進XR發(fā)展演進具有重要意義。有了高效的數(shù)據(jù)輸入系統(tǒng)，用戶才能提高表達效率，高效的輸入意味著用戶可以遵循更加可靠的輸入交互邏輯。

寫在最后

MR(混合現(xiàn)實)、VR(虛擬現(xiàn)實)、AR（增強現(xiàn)實）是構(gòu)成未來數(shù)字世界的三個重要組織部分。依托新的計算平臺以及更先進的5G/6G技術(shù)，物理世界與虛擬數(shù)字世界的界限在不斷模糊，而XR技術(shù)的發(fā)展帶給從業(yè)者巨大的發(fā)展機遇和前所未有的挑戰(zhàn)。

展銳作為數(shù)字世界的生態(tài)承載者，數(shù)字世界底層建筑的構(gòu)建者，擔(dān)負(fù)著構(gòu)建未來數(shù)字世界底座的重任。在多模交互領(lǐng)域，展銳的智能手機平臺通過Sensor Hub傳感器系統(tǒng)，支持手勢操作、體感動作、面部動作等多種交互模式。另外，展銳在語音識別、語義理解、多語言系統(tǒng)等自然語言處理方面也有深度布局。基于展銳芯的終端品類從手機、平板手表、翻譯筆等，不斷向更豐富的物聯(lián)網(wǎng)領(lǐng)域擴展。在5G、短距連接、高性能計算平臺等創(chuàng)新成果的基礎(chǔ)上，展銳正在不斷突破邊界，向更廣闊的空間探索……

審核編輯：符乾江