2012年7月，美國國防科學委員會發布了《自主性在國防部無人系統中的地位》，進一步指出自主能力是美軍無人系統中的核心能力，分析了自主能力給無人機(UAV)、無人地面系統(UGS)、無人海上平臺(UMV)和無人太空系統(USS)帶來的作戰效益。報告指出，美國當前無人系統的運用主要是在取得絕對制空權的條件下執行偵察和打擊任務，需要高度重視無人系統所受到的威脅、人為干擾和網絡攻擊等挑戰。

報告認為“世界上并不存在完全自主的無人系統，所有的自主無人系統都是人一機聯合認知系統”，提出了一套從認知層次、時間軸和人一機系統權衡空間等3個視圖定義的自主系統參考框架，并期望代替對無人系統自主控制等級的劃分，強調自主難題的解決要更多地關注指揮官、操作員和開發人員三者的協調問題。

報告提出了提高自主能力亟待發展的技術，包括感知、規劃、學習、人一機交互、自然語言理解和多智能體協調6項關鍵技術，指出每個研究領域的技術發展現狀和目前存在的差距。其中感知技術包括導航、任務、系統健康與移動操作4類感知，主要差距是復雜戰場感知與態勢理解，包括突發威脅/障礙的實時檢測與識別、多傳感器集成與融合、有人一無人空域沖突消解，以及可靠感知和平臺健康監控的證據推理能力等；規劃技術的難點是在物理和計算約束和對現有計劃做最小改變的條件下，決定什么時候自主重規劃、什么時候求助于操作員；學習技術的難點是在友、敵智能體并存的非結構化動態環境中的非監督學習；人一機交互的難點是自然用戶接口，實現可信賴的人一系統協作以及可理解的自主系統行為；自然語言理解的難點是以實際環境直接互動為重點的指令和對話理解；多智能體協調需要重點關注針對特定任務，合適協調方案與系統屬性的映射，正確的緊急行為，干擾下任務重分配以及魯棒網絡通信問題。

二、自主性定義

1.自動化

自動化(Automation)目前應用于各種系統，一般包括應用軟件來實現遂行的邏輯步驟或操作。傳統的自動化是指“系統運行無需或很少需要人工操作，但系統功能僅局限于設定的具體行動”。應用于飛行器系統的自動化還包括飛行控制系統所用的電傳操作技術、將多個傳感器信息進行整合的數據融合技術、制導與導航自動化技術（如飛行管理系統）、地面防撞自動回收技術等。可以說，這些系統只是在一種或多種功能上實現了不同程度的自動化（從低級到復雜），屬于半自主性(Semi-autonomous)。

2.自主性

“自主性”(Autonomy)總的來說是指“在更為廣泛的作戰條件、環境因素和更為多樣的任務或行動中，使用更多的傳感器和更為復雜的軟件，提供更高層次自動化的行為”。自主性的特征通常體現在系統獨立完成任務目標的程度。也就是說，自主系統要在極其不確定的條件下，能夠完全排除外界干擾，即使在沒有通信或通信不暢的情況下，仍能彌補系統故障所帶來的問題，并確保系統長時間良好運行。

要實現自主性，系統必須“有一系列基于智能的能力，能夠對設計中未規劃未預測到的態勢做出響應（即基于決策的響應）。自主系統應當能夠在一定程度上實現自我管理和自我指導（由人的決策代理進行）”。軟件設計方面，不僅要基于計算邏輯（更加通俗的說法是“基于規則”），還要采用計算智能（如模糊邏輯、神經網絡、貝葉斯網絡），通過智能體的通信和協同來實現目標。此外，學習算法可以實現學習，并適應動態環境的能力。自主性可視為自動化的重要延伸，可以在各種未完全預測到的環境下成功地執行面向任務的高級指令，正符合目前對人在具備適當的獨立性和任務執行限制時的期望。因此，自主性也可理解為設計良好、具備較高能力的自動化。

3.遙控平臺

空中、地面、水面和水下無人平臺將成為未來軍事行動中不可或缺的重要組成部分。然而，當前大多數無人系統都由人遙控，在一些任務中的自動化程度較低（例如操作員指定平臺的航點）。未來，這些遙控平臺將具備更為強大的自主性；然而，“遙控”和“自主”這兩個概念事實上是正交的，即只能存其一，也可二者兼而有之。遙控平臺可由人直接遙操縱，也可實現半自主（應用一些自動化功能）或全自主運行。此外，有人裝備也可借助軟件，以人工、半自主或全自主等多種方式遂行多樣化任務。

自主性可以理解為控制譜系的一個潛在端。然而，在未來30年里，大部分應用將運用一定級別的半自主能力。換言之，我們將見證系統控制的逐步發展，而介于中間的自主等級將在不同任務中得到應用。未來隨著自主能力越來越強，可以應對更多任務并應用環境中更多樣的變化，系統將逐步向自主性更強的作戰行動發展。然而，在大部分作戰行動中，自主能力仍要求與空軍人員進行交互，以接收指令，了解作戰需求，并實現行動協同。

三、參考框架

1.認知層次

依據不同的決策類型，自主將發揮不同的作用，也面臨著不同的挑戰。如果從認知層次視圖檢查設計方案，那么可以站在不同控制級別上的用戶（從飛行員到任務指揮官）的立場上，更好地發揮自主作用，還能為擴大自主使用范圍提供機遇。目前，許多系統都注重將自主與平臺相結合，在這個過程中，需要在飛行員和傳感器操作員之間進行互動。自主可以將較高級別的航路點轉化為平臺軌跡和控制行動，對照目標定位、跟蹤傳感器，并將原始傳感器數據處理成較高級別的信息內容（如目標跟蹤等）。

自主也可以和任務相結合，利用規劃工具，支持編隊領導和編隊成員生成潛在的行動過程和任務管理功能，以監視任務執行情況，確定當前故障或故障先并為其他平臺和隊員的操作協同提供便利條件。

在更高的認知層次上，工作重點將轉向參照高級任務目標對資源進行管理。目前，在不同任務目標的指引下，大規模資源與任務分配，例如，每個平臺具備不同傳感器與武器配置選項，平臺對多個目標的任務指派也不同，實現多平臺多目標的任務分配，大部分工作都是手動完成的。大規模資源與任務分配在時間和人力上向任務指揮官及其手下所有人員提出了嚴峻的挑戰。大規模作戰特別適合于基于最優化的規劃工具。利用這種基于最優化的規劃工具，可以使部隊盡快投入任務，減少人力與工作負荷，并確保更好地完成任務目標。在這個層次上，態勢理解的主要對象不是平臺，而是復雜的、不確定的、快速演化的戰場空間。對此，利用智能分析軟件，可以有效地協助任務指揮官整理大量數據，同時提取可行動的相關資料。

2.時間軸

正如前文所述，依據不同的決策類型，自主將發揮不同的作用，也面臨著不同的挑戰。但是，必須注意的是，在任務的時間軸上，決策類型隨著時間的變遷也會發生變化。一項任務可分為三個階段：啟動階段、執行階段和結束階段。在每個階段，自主技術都有不同的應用空間。例如，在啟動階段可以利用自主規劃算法，發揮起飛前的相關功能，包括路徑規劃、意外事故應急計劃等，還可以支持更為復雜的任務規劃，例如，指定許可范圍內的權限委派和行動范圍。此外，自主起飛也是在啟動階段應用自主技術的佐證之一。無人系統任務的執行階段是一個平穩的階段。無人機通常離不開自主航路點導航。除此之外，自主技術還可以利用軟件智能體來監控行動故障或態勢變化，主動防止因這些行動故障或態勢變化而導致初始計劃中的某個部分或某些部分失效或需要進行重規劃。在結束階段，一但任務完成，便可以利用自主技術來對收集到的數據進行預處理，然后將處理后的數據返回給平臺，最后再使平臺自主著陸。

尤其值得注意的是，整個任務期間，人類與計算機智能體在各個認知層次上的主動性和地位相互之間是可以易位的，其目的是適應態勢發生變化時所出現的新事件、新干擾和新機遇的需求。在感知、作用和規劃的不斷循環過程中，自主發揮了積極的作用。

3.人—機系統權衡空間

通過權衡空間視圖，可以有效地預測因資源失衡等（如人力資源浪費、故人為失誤增多等）可能引發的不良后果及其相關癥狀。從權衡空間視圖上看，自主可以被比喻為氣球：一方面利用自主技術，可以提高系統的能力；另一方如果權衡不恰當，那么將會導致“氣球爆炸”或限制這一氣球的膨脹。按要求，應對以下五個方面進行恰當的權衡：

(1)適應度。在系統對新任務或意外情況的自適應能力和性能最優化之間行權衡。

(2)計劃。在系統有效地跟蹤現行計劃與全面檢測某個計劃不再有效而需要改變的需求之間進行權衡。

(3)影響力。在集中式與分布式之間進行權衡，使遠程或當地獲取的信息在不受潛在因素或不明因素影響的前提下具有可視性。

(4)視角。在局部性與全局性之間進行權衡，掌握態勢，使在一個單元中的集中行動與多個單元間的干擾和協調之間相適，以取得更好的效果。

(5)責任。在長期目標與短期目標之間進行權衡，在目標上達成統一。

表12對上述五個權衡空間進行了匯總。這五個權衡空間得出一致的結論：如果不恰當地提高自主等級，那么可能會引發不良后果或導致錯失機遇，進而影響系統的整體性能。下面以特別工作組親自經歷的案例為例，證明無人系統自主性在使用不恰當的情況下，可能會引發意想不到的后果。如果提前考慮多個權衡空間中可能出現的后果，那么就可以提前捕捉預警信號，在各個權衡空間內及時進行系統性能平衡或再平衡處理，從而有效地減少引進自主技術時所帶來的風險。

四、發展領域

1.感知

無論是在平臺上還是在戰場上，感知(Perception)能力都是實現自主的關鍵要索。只有通過感知，無人平臺才可以到達目標區域(如導航、避開障礙物等)實現任務目標。例如，平臺收集傳感器數據、應用動能武器和對抗簡易爆炸裝置(IED)等都離不開感知能力。

感知過程需要傳感器(硬件)與感知能力(軟件的支持。傳感器模態是傳感器原始輸入，包括聲音、壓力、溫度和光照等。在某些情況下，它與人的五種感官相似。模態可以繼續進行細分。例如，視覺通道可以細分為可見光、紅外線、X光以及其他模態。當傳感器模態利用電磁波頻譜來生成圖像時，導航與任務傳感器處理也可以稱為計算機視覺。圖像是以類似于圖片的格式所呈現的數據，與所捕捉到的現場有直接物理對應關系。在下文論述中，我們根據感知的不同目的，將無人系統的感知功能分為四大類，即導航感知、任務感知、系統健康感知與操作感知。由于在某些情況下，平臺可能為了實現室內導航而需要對某扇門進行操作，也有可能為了完成某項任務而需要對簡易爆炸裝置進行操作，因此，這四個類別經常存在交叉現象。此外，到達目標區域和在拒止區域內移動，需要導航功能的支持，而在導航功能的支持下到達目標區域之后，則需要通過任務感知來完成任務目標。

在啟動制導、導航和控制(GN&C)功能時，需要通過導航感知來支持路徑規劃和動態重規劃，以實現多智能體通信與協調。一般情況下，導航是指平臺朝目標方向移動的全過程，這與平臺運動控制相對(如保持豎直位置或為足式機器人選擇步法)。通過提高導航感知能力，可以提高平臺的安全性(因為人的反應速度通常不夠快，也無法克服網絡的滯后性，因而無法保證導航的可靠性和安全性)，同時減少操作平臺或駕駛平臺時的認知工作負荷盡管這還不是以減少人力需求量。通過選擇機載感知處理方式，可以提高平臺間的反應速度，幫助平臺對抗網絡攻擊或網絡破壞。

任務規劃、想定規劃、評估與理解、多智能體通信與協調和態勢感知都需要任務感知的支持。提高任務感知的自主感知能力，可以帶來四大好處一是機器人能夠秘密地執行任務，例如，在不需要全程網絡連接的情況下進行跟蹤某個活動，從而減少網絡受到攻擊的可能性，減操作員的認知工作負荷；二是通過自主識別，即使是目標提示或給目標劃分優先級別，可以減少數據分析員的需求量；三是通過機載確認或給部分擬發送數據劃分優先級別，可以降低網絡需求，例如，“全球鷹”需要消耗大量帶寬；四是可將任務感知與導航結合，例如，指揮平臺在空中盤旋靜止、轉圈等。

平臺健康感知主要應用于故障檢測與平臺健康管理但是，在進行故障預測、重規劃與意外管理時，也需要應用平臺健康感知功能。加強自主健康監控至少有三大好處：一是當自主故障檢測、確認和修復的速度可能高于手動檢測、確認和恢復的速度時，使得故障弱化，并有助于修復故障；二是提高用戶對系統的任度，尤其是系統不按預期運行，或在任務關鍵階段突然出現故障時；三是進步減少操作員的認知工作負荷，不再需要特別安排一位操作員全程監視診斷。

隨著導航地點從室外轉向室內，任務重點也從遠程感知轉移到遠程行動上，操作感知變得越來越重要。利用地面機器人來將門打開是一項艱巨的任務。除此以外，需要利用操作感知來完成的其他任務包括拆除簡易爆炸裝置、車輛檢查在此過程中，需要移動毯子、包裹等物件)，以及物流與材料處理等。提高自主操作感知有兩大好處：一是它可以減少完成操作任務所需的時間及其工作負荷；是減少參與任務的機器人數量，因為在沒有提高自主操作感知能力之前，通常要另外安排第二個機器人來協助操作員隨時監控操縱器與被操縱物體之間的關系。

2.規劃

規劃（Planning）是指能將當前狀態改變為預期狀態的行動序列或偏序的計算過程。國防部將規劃定義為在盡可能少用資源的前提下，為實現任務目標而行動的過程。在這一過程當中，共有兩個關鍵點：①描述行動和環境條件、設定目標／資源最優化標準；②在遵照硬性限制條件（例如，平臺在地形和速度等方面的限制條件）、優化軟性限制條件（例如，最大程度地減少完成任務所需的時間或人力）的前提下，提供計算行動序列和分配行動資源的算法。

各個領域都有自己相應的規劃，包括商業／工業、政府和軍方等。制造業很早就已經開始制訂物流規劃和生產調度，以確保各種商業產品的生產計劃與產品需求相協調。例如，機器制造與交通信息管理系統（ETMS）專門用于規劃和管理香港地鐵系統的維護與修理工作：200年，Bell等人開發了人工智能規劃系統來設計和監控英國電力系統的電壓；美國NASA所開發、部署的多個系統也使用了人工智能規劃；自主科學航天器實驗分析了地球觀測衛星的實驗結果并重新規劃了問題求解和機遇開發的方法（Sherwood等，2007）；多飛行器綜合科學理解系統（MISUS）則專門用于在一組自主飛行器內協調多個數據采集計劃（Estlin等，2005）；蒙特利灣海洋研究所一直致力于開發智能體控制反應性執行程序T－REX系統，該系統主要用于控制水下自主系統來執行數據采集任務（Mcgann等，2008）；OTS公司也開發了用于對新海軍艦艇進行規劃的準時信息系統（ARGOS）和在非作戰條件下的空軍飛行路徑規劃系統，以達到減少燃油消耗的目的（OTS，2012）。人工智能規劃有助于對復雜系統進行管理，其優化組合既是最為關鍵的一個步驟，也是難于完成的一項任務。它所提供的算法還可以幫助系統針對無人環境（如太空、海洋等）做出相應的行動決策（提供自主能力）。

3.學習

機器學習現已成為開發智能自主系統最有效的辦法之一。大體而言，從數據中自主獲取信息比手動知識工程的效率更高。計算機視覺最新技術系統開發、機器人技術、自然語言理解和規劃主要依賴于訓練數據自主學習。通過在大量具體數據中尋找可靠的模式，一般可以使自主系統的精確性和魯棒性高于手動軟件工程，還可以使系統根據實際運行經驗自動地適應新環境。

4.人—機交互

人一機交互（Human—Robot Interaction，HRI）是一個相對而言較新的跨學科領域，主要解決人與機器人、計算機或工具如何協作的問題。它是人一系統交互的一個分支領域，側重于人與機器人之間雙向的認知交互關系，在這個交互關系當中，由機器人承擔智能體的角色，在遠離用戶、計算機或自動駕駛儀的位置上運行，在技術上巨有明顯的優勢。為了與有關科學文獻保持一致，本報告將一律采用人一機交互這一術語，無人平臺(UxV)則表示特定形式的機器人。

無人平臺和計算機之間具有明顯的區別。無人平臺承擔著智能體的角色能對物質世界造成影響，通常也具備一定級別的自主性。它的能力高于一般工具，可以承擔一定的工作或擁有有限主動權。機器人作為智能體，引發了人們對其能力、自適應能力、共享目標以及人際禮儀的高期望值，這種期望被稱為“社會響應”，盡管人一機之間的關系可能并不十分和諧。人一機交互主要解決六大基礎研究問題①

(1)人與無人平臺如何溝通？

(2)如何為人與無人平臺之間的工作娛樂或相應的交互關系建模？

(3)如何研究并提高人與無人平臺之間的配合度？

(4)如何預測人與無人平臺協作的可用性和可靠性？

(5)如何捕獲和表達人與無人平臺在特殊應用領域中的交互關系？

(6)如何刻畫終端用戶？

由于研究范圍十分廣泛，人一機交互涵蓋了無人系統、人因學、心理學、認知科學、通信、人一計算機交互、計算機支持工作組以及社會學等多個領域。這種龐大的多學科交叉狀態明顯不同于傳統工程設計、接口開發或生物工程學。研究人一機系統與平臺之間的關系，有助于國防部改進系統性能、減少平臺操作成本和設計成本，提高現有系統對新環境的自適應能力，并加快其推行進程。通過改善人與無人平臺之間的協作關系，可以提高系統執行任務的速度，同時降低失誤率；而如果在改善人與無人平臺協作關系的同時，改進通信接口、提高應用程序的可用性和可靠性，那么還可以減少系統操作人員的需求量，降低在缺乏人一機交互支持的情況下，設計不同系統顯示或重新設計無人系統的成本。如果能夠較好地理解人、無人平臺以及自主性在特殊形勢下各自的作用和局限性，那么將有助于設計出不僅能監控越限行為，還能預測新需求的系統，從而提高系統的自適應能力。通過提高人一機交互水平，不僅可以提高無人系統的任務執行能力，還可以提高人類對系統的信任度。我們希望借助于這些有利條件來加快這一技術的推行進程。此外，利用先進的人一機交互人類學方法，可以在無人系統使用過程中捕捉創新機會，從而加快新能力、新用途和最優實踐的推行。

機器人與人可以通過遠程遙現(romote presence.)和任務代理(taskable agency)這兩種方式進行協作。在國防部的大多數應用領域當中，系統都是以拓展作戰人員的可達領域，使作戰人員能夠進入拒止區為目的的。因此，基于聯合認知系統內協作類型的特征描述，比基于人與機器人之間的接近性的一般性分類系統能更有效地表述人一機交互概念。

遠程遙現是指人通過無人系統來進行遠距離實時感知和行動。在遙現編隊當中，之所以仍然將人留在控制回路中，一方面是因為受計算機視覺限制，另方面也是為了能夠監控未建模或意外情況。然而，留在控制回路中的人并不一定需要為了能在遠端環境中工作而充當機器人操作員的角色。編隊的工作表現取決于無人系統，因為正是由無人系統來補償因與機器人協作而造成的感知構建損失(例如，機器人通過環境效應使信息量減少)和最大程度地減少直接控制機器人的工作負荷。

任務代理是指將任務責任全部委派給無人系統。在機動智能體編隊中，人在交接完一項任務之后，必須負責處理其他任務，直到無人系統再次返回。較之遙現編隊，在任務代理編隊中，人與機器人之間的聯系較少，但是仍然必須保持人與機器人之間的交互，以確保任務委派正確無誤，任務意圖被充分理解，并且能在無人系統返回之后在認知層次上對發現成果進行匯總。信任度是影響機動智能體是否能夠順利得以推行的一個主要因素。

究竟選擇遠程遙現還是任務代理，主要取決于任務的實際情況。這兩種的作方式之間有著明顯的區別。不同的任務也需要采用不同的策略。例如：在行秘密監視任務時，無人系統可能要在獨立工作數天或數星期之后，才能將有價值的數據帶回；而在執行特種部隊任務時，則可能需要無人系統不間斷地執行態勢警戒。

在無人系統研究過程當中，有許多人認為遠程遙現就是遙操作(Teleoperation)，而之所以將人仍然保留在控制回路中，是由于自主能力的不足。事實上特別工作組也發現無人系統經常被認為是“完全自主”或“完全遙操作”的系就這種觀點忽視了部分自主能力的價值，如，警戒運動、航路點導航以及感知提示等。利用這些自主能力，只要操作無誤，就可以減少操作員的工作負荷，使員能夠將全部精力專注在任務執行上。

5.自然語言理解

與自然語言處理(NLP)密切相關的是能用英語等普通語言與人類進行交流的計算系統的發展( Jurafsky&Mamm,200)。自動語音識別(ASR)是將語音信號轉化為文本信息的過程,而自然語言理解(NLU)則是將文本信息轉化為計算機能理解的正式表述的過程。人一機交互受自然語言影響。如果給無人系統發出的口頭指令不精確,那么委派的內容將會簡單化,委派的速度也會隨之加快然而,自然語言是一門獨立的研究學科。本報告也同樣持有這一觀點。

人向自主系統發指令時,自然語言是最常態最自然的一種方式。人類一般利用自然語言來為自主系統制定多樣化的高級目標和策略,而不是直接進行具體的遙操作。但是,由于自然語言本身具有一定的不明確性,因此在自然語言的理解上存在一定的困難。在理解自然語言時,必須結合當時的語境來推斷語言的真實意義。構建一個能理解英語指令和人類語言的自主系統將是一項高技術難度的挑戰。為解決這個問題,我們經常利用傳統圖形用戶界面(GUI)來與計算系統溝通。然而,在大多數情況下(例如,當用戶不方便用手進行操作時),語言仍然是最理想的溝通方式。

6.多智能體協調

在執行跨機器人/軟件智能體/自然人任務時，我們常常會提到多智能體協調這一術語。每個智能體都具有一定的自主性。多個智能體之間可以通過兩種方式進行協調，即分布式協調和集中式協調。分布式協調是指多個智能體直接進行互動或交涉；集中式協調是指在規劃器的指導下統一進行協調。無論智能體采用哪種方式進行協調，我們都必須確保智能體不僅能夠同步化，還能適應環境或任務的動態變化。多智能體同步化經常被理解為多智能體系統之間的主動協同(如機器人足球賽)或非主動協同(如螞蟻的覓食行為)。雖然協作(人一機協作)與協同之間有一定的關聯，但它指的是截然不同的主題，它假定每個智能體都對其他智能體的能力有一定的認知理解能對目標完成進度進行監控，并且能像人類一樣進行編隊。因此，在研究過程中，多智能體協調與人一機交互是兩個相互關聯的技術領域，但是一般而言，多智能體協調研究主要側重于不同配置的智能體協同機制，而人一機交互則側重于協作認知。本節內容將主要介紹多智能體協調的一個分支領域—一多機器人系統協同。

多無人平臺協調至少有四大好處：擴大覆蓋面、降低成本、提供冗余能力、實現規范化。與單個平***立工作相比，多無人平臺協調的共同覆蓋面更廣，持久力更強，不僅可以發揮網絡通信中繼的作用，還可以為傳感器網絡覆蓋面提供保障。多個低成本無人平臺都可以替代單個高成本低可觀測平臺，也可以替代應對“反介入”和“區域拒止”而必需的高保護級別的系統。在出現噪聲、混亂、干擾、偽裝/隱蔽欺騙現象時，多個低成本平臺并行可以提供冗余能力，即使其中有幾個平臺正在執行其他任務或出現故障時，最后依然能夠順利地完成任務。通過協調多個專用平臺或異構平臺，可以減少成本，降低設計要求。例如：在異構平臺編隊中，專用無人平臺可以為其他無人平臺加燃料，從而可以達到簡化設計、降低平臺成本的目的。

五、應用挑戰

1.系統能力

自動化有助于在滿足一致性、可靠性和可預測性的前提下按照編程執行行動，其挑戰在于,這些行動通常只適于具備限制條件的態勢(即設計人員預見并且軟件開發人員并為之編程的態勢),以及局限于為感知理解所處環境而使用的有限傳感器列陣所提供的測量值。開發既能精確感知,又能準確理解(識別并分類)所檢測目標( Object),并確立相互之間的關系以及更主要的系統目標(Goal),是自動化的重大挑戰,尤其是在遇到預期外(不在設計范圍內)的目標、事件或態勢時(Object, Event, or Situation)。智能決策需要這種能力。然而,目前大多數自動化技術都存在脆弱性( Brittleness),換言之,在設計和編程范圍內的態勢下能夠正常使用,但需要人的干預來處理設計和范圍以外的態勢。

另外,人雖然存在個體差異,但通常具備掌握大局(整體任務目標)、評估態態勢(行動上下文)、飛行中思考的能力,以適應新的態勢,并不是按照基于規則方式(大多數軟件編程如此),更多地依賴于模式識別、心智模型、類比推理(有時在非常抽象的層面上)。然而,人并不擅長快速連貫地處理大量數據,也難以長時間保持注意力。

隨著自主能力的不斷提升(包括應對更多樣的態勢和不確定性的能力),我們預測未來系統對人的干預需求將會下降。然而,在可以預見的未來,仍然需要保持一定程度的人一系統交互,其原因包括:

(1)硬件越來越復雜,因而更容易出現故障。

(2)軟件越來越復雜,因而更容易出現漏洞,脆弱性也隨之上升。

(3)這些系統將在對抗環境中使用,因而可能會遇到初始設計人員未曾考的態勢

簡言之,隨著軟硬件通過擴展來適應更多態勢或作戰模式,并且在越來越復的環境中使用系統,系統的復雜性將明顯上升。這會導致以下結果：

(1)由于復雜性升高,導致系統的可理解性下降(即為何這樣做?

(2)給定態勢下執行方式的可預測性下降,向必須與系統交互的人提出了嚴峻挑戰

(3)為解決前述兩個問題而進行人為干預所需的通信鏈的脆弱性上升。

因此美國空軍在可預見的未來,大多數甚至全部作戰行動將采取人和自主合的方式,從而在面對特定敵手時的各種作戰條件下完成任務。自主性將用以降低手動數據處理和集成需求,提高速度,并在軟硬件能力范圍內執行有關行動。我們仍然需要機組人員來進行與自主性高層目標指示有關的指揮與控制。因為機組人員掌握了設計界限和/或情境(上下文)感知范圍以外的知識,可以新的態勢,并與其他部隊和活動進行協調。

2.態勢感知與人在回路外的執行問題

與自主系統協作時的態勢感知是確保系統按照作戰目標運行的關鍵。人監督自動化所面臨的關鍵挑戰是人在回路外(Out-of-the-Loop),換言之,檢測自動化所出現的問題,或者是自動化控制的系統所出現的問題,人的速度較慢,因此無法快速地完成問題診斷和適當干預。究其原因,是在使用自動化時由以下原因導致態勢感知明顯下降：

(1)接口不提供必要信息,且通常缺乏系統狀態反饋

(2)要求人經常監視的系統(而這也是人并不擅長的一種技能,因為人在監視時每次至多30分鐘,警覺性便會下降)。

(3)從主動信息處理切換至被動信息處理許多航空事故之所以發生,都是因為飛行員不在回路中,因而無法及時地進行適當干預。

此外,飛行員在理解自動化工作內容的問題上(甚至是在正常操作過程中主動嘗試理解時)也面臨著巨大的挑戰。如果對所顯示的信息存在誤解。有時是因為誤讀系統模式,或者未能準確地預測系統在給定態勢下的反應,將會導致態勢感知不精確,進而決策失當。即使是訓練有素的飛行員也可能無法充分地理解自動飛行導航與制導控制系統的所有模式,因而會在一定程度上影響與自動化的有效交互。未來系統需要更加注重開發能使所有機組成員保持期望的態勢感知水平的自主性方法。

3.最優工作負荷等級

雖然使用自動化的目標通常是減少手動工作量(進而降低操作的人力需求),但它通常未必能夠實現這一目標。這種情況被戲稱為“自動化的尷尬( Irony of Automation)。在高工作負荷飛行階段(例如,飛機起降),它通常會導致工作負荷進一步增大;而在低工作負荷飛行階段(例如,途中),卻能減少工作負荷。由于理解并與自動化進行交互會使需求增大,工作負荷通常從可觀測的手動任務切換為不一定可觀測的認知任務。未來需要進一步開發易于使用、理解和交互的自主系統。此外,必須特別注重選擇哪些任務由自動化處理,或者委派給自主系統執行,確保機組人員收到的是與人的能力相適應的一組連貫任務,而不是輕易無法實現自動化的離散任務。這種“以人為中心”( Human Centered)的方法對于實現“人一自主編隊”性能最優化至關重要。

4.人—自主決策集成

自主性通常用以支持人的決策。專家系統或決策支持系統提供決策指導。例如,行動過程制定或評估、目標提示或者對探測到的目標進行分類等。實際上,有效的決策支持存在困難。雖然我們一般假定這種系統能夠改善人的決策尤其是在執行困難任務時,但事實并非如此。證據顯示,人一般先采納系統評估所增加,因而決策時間也會相應延長。因此,輔助決策系統如果存在缺陷,可能并不一定能夠提升整體人/系統決策的精確度和實時性。盡管好的建議有用,但如果建議失當,則會使決策人犯錯,因而整體任務性能將會嚴重下降。

相反,評判人的決策(例如,指出已規劃的行動過程可能存在的問題)的決策支持系統,由于輸入是在人做出決策之后(而非之前)發生的,因此能夠剔除由人到計算機解決問題的方案偏差。它同樣還利用了計算機的一大優勢,即快擬人提出的解決方案(例如,行動過程)從面從環境態勢的多樣性以及對抗行動中,識別出潛在的缺陷或缺點。這將更好地促進人/自動化協同,進而提升整體性能。隨著決策智能體和系統未來使用越來越廣泛,我們必須特別注重開發認知交互方案來改進(而非干擾)機組人員的決策。此外,我們必須基于人/系統性能的綜合輸出,認真檢驗這種系統的作戰效能。

5.自主性中的知情態勢信任

為了使機組人員能夠有效地與自主系統協同,機組人員必須能夠判斷自主執行任務的可信任度。這種信任不僅與系統整體可靠性有關,還與根據態勢對系統在特殊態勢下執行特定任務的性能評估有關。為此,機組人員必須建立知情信任(Informed Trust)—對應用自主能力的時機、程度以及干預時間進行精確評估。信任度的校準一從過度信任(自滿)到信任不足(抵觸)可能比較困難,應當基于以下幾個因素：

(1)系統因素。包括整體有效性和可靠性;可靠性主觀評估;發生系統故障 (或在態勢中無法做出適當的行動),導致快速失去信任且在問題出現后信任恢復緩慢的近因( Recency);系統的可理解性和可預測性、及時性與完整性。

(2)個體因素。包括個體執行任務的能力、整體信任意愿以及其他個人特征。

(3)態勢因素。包括時間約束、工作負荷、必要工作,及關注其他競爭性任務的需求。

過去,機組人員就以下問題單獨進行決策：

(1)信息。對信息輸入的信任度(例如,基于信息源的可信度、傳感器的可靠性、信息的及時性,以及來自其他信息源的確認)。

(2)他人。對其他隊友的信任度。

(3)自動化。對特定自動化工具的信任度。

然而,隨著自主系統在未來的普及,單獨實體之間的界限也將變得模糊。自主系統可以作為信息源,也可以是處理信息并執行行動的系統,或者是機組人員交互的對象。

必須特別注意,確保機組人員能夠在充分了解有關信息的前提下建立一定的信任,確定對自主系統在特定任務、特定態勢、特定時刻等條件下當保有的信任度。

六、研發挑戰

1.自主性的態勢模型

為了使自主性獲得成功,系統必須超越簡單計算邏輯,能夠在更完整地理斷變化的任務和環境的基礎上進行推理。這種系統需要考慮：

(1)表示當前態勢、融合多感知輸入、保證態勢理解和預測,從而支持的計算機模型。

(2)按照已學習的態勢分類(對應于存儲的計劃與行動)映射當前模式匹配。

(3)確定對相關信息的注意力分配、信息解釋,以及數據不完整時,缺失信息默認值的預期態勢模型。

(4)表示態勢表達中不確定性的上下文模型。

(5)指導信息搜索和解釋的基于目標的行為(目標驅動的行為)。

(6)識別關鍵環境提示,映射至不同態勢類別的能力。

(7)根據態勢類別相對狀態和未來狀態預測,處理多項目標和動態目標優先級重劃分實現數據驅動行為的能力。

(8)在模式匹配與現有態勢類別匹配不理想時,進行推理的系統、環境與其他參與方(如隊友、敵手、平民等)的模型。

(9)態勢類別與模型的主動學習與提煉。

(10)制訂計劃以實現目標并按需求進行動態重規劃的能力。

(11)按需求優化環境、系統及其他來源的數據釆集,以支持態勢模型持續需求的能力。

(12)與操作員或其他自主系統就上述任意功能(例如,目標統一、態勢模型、決策、功能分配與優先級劃分計劃等)進行交互,以實現協同獲準行動的能力。

2.學習系統

在開發系統自主性的過程中,使用學習系統既有優點也有不足。為了使這些學習系統成功地得到應用,我們必須彌補這些不足。以積極的眼光看,應用基于學習算法的系統能夠應對各種情境因素(例如,環境因素、任務相關因素、敵手),生成能夠應對更多樣的態勢的魯棒性方案。在這種情況下,設計人員和開發人員不需要提前預測所有潛在的條件(這從理論和實踐的角度來看都十分困難),或者預先指定在各種可能的條件組合下應當采取的措施。相反,他們創建了一種結構,使自主性進行自我組織和學習,并適應不斷變化的態勢。這要求自主性可發人理解學習和推理。在人的認知和生物學的啟發下,我們得出有以下幾種方法可用：

(1)模糊邏輯( Fuzzylogic)。提供將一個或多個連續狀態變量映射至相應類別以進行推理和決策的框架 。

(2)神經網絡( NeuralNetworks)。網絡利用通過程序在大型典型案例數據庫的訓練過程中學習到的可變互聯權重來進行知識表達的算術框架,學習解決方案。

(3)遺傳與進化算法(Genetic and Evolutionary Algorithms)。在進化遺傳的啟發下采用重復仿真的方法,縮小潛在選項的范圍,選擇最優解決方案。

以上每種方法都可結合適當的系統架構來應對自主性挑戰,達到知識獲取、編譯、表達存儲、處理和提取的目的。由于現實環境存在內在的復雜性，這些方法的合理性可能遠遠超過那些借由專家來獲取緊急情況的大量細節信息的方法。

然而,學習方法也不無挑戰。這些方法通常要求開展大量的工作來確定提供給學習系統的相關參數和信息,并創建學習與組織輸出的適當系統架構。此外,學習系統還提出了以下新的挑戰：

(1)可理解性(Understandability)。這種系統的邏輯與行為可能對于機組人員很難理解,而且系統開發人員通常無法完全理解自主性的行為方式—盡管我們可以采用相關方法來獲取描述算法“黑盒子”內部主要特征的規則。然而這些意見可能并不完整,也不能表達系統行為的復雜全貌。

(2)確認(Validation)。如果美國空軍的安全關鍵作戰行動接受了利用學習技術開發的自主系統,那么成功驗證和確認開發這些系統的方法就非常關鍵。般而言,目前的技術還不足以應對這一挑戰。

(3)標準化(Standardization)。如果學習算法今后能夠在實踐中繼續演化那么在一致性的問題上將會遇到新的重大挑戰。系統是否會為了保證一定程度的一致性而將學習到的經驗傳授給其他系統呢?每種情況下保證學習到適當的經驗的標準是什么?這些經驗對于其他環境是否具有廣泛性?不同系統的行為方式是否不同(要求機組人員能夠理解和預測自主性的運行方式,進而以適當的方式與之交互并正確地調整對自主性的信任度)?如果訓練期結束后學習算法凍結,那么這些算法是否會與其他方法一樣而遭遇脆弱性的問題,因而無法在不斷變化的現實環境下學習和自適應?

如果利用學習系統來開發未來的自主系統,那么我們必須解決這些挑戰。

3.驗證與確認

美國空軍先進系統軟件的驗證與確認對于保證系統能夠安全而一致地按照預期運行十分關鍵。為此,我們需要引入新的自主軟件的驗證與確認方法。傳統方法以需求跟蹤為基礎,無法應對自主性軟件的復雜性。十分多樣的潛在狀態和狀態組合能夠進行相互測試,而臨界條件卻難以理解。系統支持自主性交互的能力是成功實現自主性的重要條件,確認測試必須明確予以考慮。

4.網絡

自主性可能能夠應對美國空軍作戰行動的許多挑戰,但也和其他軟件系統樣,容易受到網絡攻擊。鑒于自主性的復雜性檢測漏洞或故意嵌入的惡意軟件更加困難。和自我健康監視系統一樣,提高環境感知有助于應對這一挑戰。此外,保證網絡彈性的方法(包括檢測、對抗或者應對自主性和系統其余內嵌部分的網絡攻擊的能力)非常重要。網絡彈性并不是在開發完成之后可以在加入系統的一種特性。相反,在開發任何自主系統方法的過程中我們必須考慮網絡彈性的因素。《賽博視圖2025》( Cyber vision2025)更為完整地探討了網絡對抗環境下任務保障的相關問題。