你是否曾渴望成為畫中人？或者是控制畫中物？增強現實（AR）作為新一代人機交互平臺，或許可以幫你實現這一愿望。

近日，卡爾加里大學、Adobe 研究中心和科羅拉多大學博爾德分校的研究人員創建了一個增強現實（AR）界面 RealitySketch，該界面可用于繪制交互式圖形和可視化、可響應的草圖。

相關研究以 “RealitySketch： Embedding Responsive Graphics and Visualizations in AR through Dynamic Sketching” 為題，發表在預印本平臺 arXiv 上。

該創新成果還在 ACM 用戶界面軟件和技術研討會（ACM Symposium on User Interface Software and Technology， UIST’20）上，獲得了最佳論文榮譽獎（Best Paper Honorable Mention）和最佳演示榮譽獎（Best Demo Honorable Mention）。

研究初衷：向學生解釋物理現象

近年來，交互式動態草圖一直是人機交互研究領域的核心主題之一，它通過對用戶進行交互式響應，使人們能夠通過一個動態的視覺媒介進行思考和交流。

盡管目前市場上基于 AR 的草繪界面不計其數，但迄今為止開發的大多數解決方案都專注于研究如何將靜態圖形嵌入到現實世界中。例如 Pronto、SybiosisSketch 和 PintAR，以及 Google 的 Just a Line 或 DoodleLens 等商業平臺。

如今，該研究團隊開發出了更加豐富的動態素描技術詞匯，可以動態地實時創建交互式的動畫內容。RealitySketch 平臺不僅允許用戶創建靜態草圖，還可以嵌入動態圖形和交互式圖形，這些圖形可以與用戶周圍的真實對象進行綁定，并對用戶的動作做出反應。

圖 ｜ RealitySketch 可以使用戶通過實時草圖繪制實現鐘擺運動等物理現象的可視化

想象一下，當我們在鐘擺上畫一條線，這條線隨著鐘擺的擺動而移動，這種交互式操作將鐘擺的運動進行可視化處理。就如上圖中右側曲線圖，形象地將鐘擺下方的位置進行了實時的繪制，這種抽象與現實的完美結合，幫助人們更好地理解物理現象。

該研究的作者之一 Ryo Suzuki 表示：“我們的項目初衷很簡單，就是通過 AR 交互式草圖繪制，使用戶能夠將現實世界進行可視化描繪。而這個想法最初來源于我們對物理課堂教育的觀察，在物理課堂中，老師指導的實驗課通常是物理學習的一個組成部分。”

向學生解釋物理現象有時是相當具有挑戰性的，因為要充分理解這些物理現象，需要學生們想象這些現象是如何發生的，以及它們是什么樣子的，而不是僅僅學習與之相關的理論知識。

而由 Suzuki 及其研究團隊共同創建的 AR 平臺 RealitySketch，允許用戶制作動態和響應式的圖形，這些圖形可以在黑板、墻壁或現實世界中的其他物體上進行可視化展現。

該平臺為學生們的物理學習提供了一個全新的窗口，可以幫助物理老師以動感十足的方式，讓學生直接觀察運動中的物理現象，從而可以幫助學生對課程所涵蓋的主題有更深的理解。

動態交互式可響應的圖形創建

RealitySketch 基于蘋果公司的 AR 開發平臺 Apple ARKit 研發，它可以將繪制的動態草圖嵌入到真實環境中。用戶首先通過手指或數碼筆在觸摸屏上繪圖，然后將他們繪制的草圖中的元素疊加到真實世界的攝影機視圖上。

Suzuki 說：“在過去，創建這樣的可視化場景會經歷很多耗時的環節，需要視頻編輯、后期制作等獨立的步驟。相比之下，我們想弄明白：當現實世界發生變化時，如果這些草圖元素能夠動態地做出反應，會怎么樣呢？＂

圖 ｜ 嵌入式和響應式草圖的潛在示例（綠色元素表示虛擬世界中的對象，黑色元素表示現實世界中的對象）

RealitySketch 最獨特的功能是：它利用交互技術，根據真實世界運動的草繪元素進行實時的動畫制作。

該方法可以保障用戶以用戶以實時和即興的方式，按照以下 4 個步驟來實現圖形的創建：

對象跟蹤：用戶首先要在真實世界的場景中，指定要跟蹤的視覺實體（例如，一個物理對象或一個骨骼關節）；參數化：然后，用戶通過繪制直線或弧線來定義感興趣的特定變量，從而對跟蹤的實體進行參數化；參數綁定：用戶將這些變量綁定到草圖元素的圖形屬性上（例如，長度、角度等），如此一來，當現實世界的變量發生變化時，就可以實時跟蹤其動態行為；可視化：用戶還可以通過幾種可視化效果來對現實世界的運動進行交互、分析和可視化處理。

Suzuki 解釋道：“RealitySketch 集成了物體追蹤和基于 AR 的可視化。首先，它利用計算機視覺技術來跟蹤物理對象。當用戶在 iPad 上點擊一個對象時，系統會根據物體的顏色來跟蹤該對象。所有的草繪元素都被綁定到了這些被追蹤的物體上，因此用戶對物體進行移動、拋出等操作時，草繪的元素也會根據預期表現出的運動進行動畫處理。”

AR 作為動態計算媒介，潛力巨大

為調查這一平臺的滿意度，研究人員招募卡爾加里大學的學生和老師參與評估調研，這些師生對 RealitySketch 非常滿意，并且似乎對其增強物理實驗的潛力感到特別興奮。

現在由于 COVID－19 在全球的大流行，很多學生都在網上上課，而 RealitySketch 界面的創建可能價值非凡。實際上，RealitySketch 可以使遠程教學更具吸引力，例如，它允許教師錄制動態的物理實驗視頻，并與學生進行分享，這樣他們就可以更好地理解老師在講課中描述的物理概念和現象。

除了在課堂環境中測試他們的平臺，研究人員還展示了 RealitySketch 在與教育無關的其他應用領域中的潛力。例如，他們展示了體育教練可以使用它來生成與健身有關的數據，并對其進行實時的可視化處理和分析。

圖 ｜ 為 RealitySketch 提議的應用場景的草圖

研究人員向籃球運動員展示了籃球的實時運動軌跡，通過對特定的身體姿勢制作可視化界面，使他們更加清晰的看到得分過程，也讓課堂更加引人入勝。

Suzuki 表示：“我們有興趣在將來進一步開發該項目，這是 Adobe Research（Rubaiat Habib Kazi，Wei－Yi，Stephen DiVerdi，Wilmot Li）與卡爾加里大學（我）、科羅拉多博爾德大學（我的博士博士生導師 Daniel Leithinger 教授）共同合作的成果。我們相信這項工作將激發更多支持沉浸式創意的研究和產品，并將充分實現 AR 作為動態計算媒介的潛力。”

責任編輯：PSY