這是一篇客座文章。這里所表達的觀點只是作者的觀點，并不代表電子發燒友的立場。

大多數人把人工智能和機器人視為不可分割的一對，認為它們是一回事。事實上，“人工智能（artificial intelligence）”一詞很少在研究實驗室使用。特定于某些人工智能和其他智能技術的術語更為相關。每當我（作者，以下簡稱我）被問到“這個機器人是由人工智能操作的嗎？”這個問題時，我都會猶豫是否應該把我們開發的算法稱為“人工智能”。

20世紀50年代，John McCarthy和Marvin Minsky等科學家首次使用人工智能。幾十年來，人工智能經常出現在科幻小說或電影中。現在，人工智能被應用于智能手機虛擬助理和自動駕駛車輛算法中。無論是歷史上還是今天，人工智能都可能意味著許多不同的東西，這可能會引起混亂。

然而，人們常常有這樣的偏見，認為人工智能是人類智能的人工實現形式。而這種先入為主的觀念可能來自于我們作為人類的認知偏見。

We judge robots’ or AI’s tasks in comparison to humans

不要將機器人或AI直接與人類相比較

如果你在2017年碰巧關注了這條新聞，那么當DeepMind開發的人工智能AlphaGo擊敗9段圍棋選手Lee Sedol時，你有什么感覺？你可能會感到驚訝或恐懼，認為人工智能已經超越了天才的能力。

盡管如此，贏得一場有著指數級可能動作（如圍棋）的游戲只意味著人工智能已經超過了人類智力的一個非常有限的部分。IBM的人工智能Watson也是如此，它在“Jeopardy！”中競爭 —— 這是一個電視智力競賽節目。

我相信很多人都對我在麻省理工學院仿生機器人實驗室（MIT Biomimetic Robotics Laboratory）研制的Mini Cheetah的后仰動作印象深刻。雖然向后跳躍和落地是非常動態的、引人注目的，當然對人類來說也是困難的，但與需要更復雜反饋回路的穩定行走相比，特定運動的算法非常簡單。完成對我們來說似乎很容易的機器人任務通常是極其困難和復雜的。出現這種差距是因為我們傾向于根據人類標準來考慮任務的難度。

我們傾向于將人工智能的功能泛化。例如，當我們在街上看到有人在做后空翻時，我們傾向于認為這個人擅長走路和跑步，也有足夠的靈活性和運動能力，擅長其他運動。一般來說，很可能對這個人的這種判斷不會是錯誤的。

然而，我們也能將這一判斷應用于機器人嗎？我們很容易根據對特定機器人運動或功能的觀察來概括和確定AI性能，就像我們對人類所做的那樣。

通過觀看OpenAI（人工智能研究實驗室）機器人手解決魔方的視頻，我們認為人工智能可以執行所有其他簡單的任務 —— 因為它執行了如此復雜的任務。但我們忽略了這樣一個事實，即人工智能的神經網絡只針對有限類型的任務進行訓練。例如，如果情況發生變化，在操作魔方時將它倒置，則算法的工作效果可能不如預期的好。

與人工智能不同，人類可以將個人技能結合起來，并將其應用于多項復雜任務。一旦我們學會了如何解魔方，即使被告知要倒持魔方，我們也能快速地處理魔方。而大多數機器人算法需要新的數據或重新編程才能做到這一點。

能用勺子在面包上涂果醬的人也能用叉子涂果醬 —— 這是顯而易見的。我們理解“傳播”堵塞的概念，并能很快習慣使用完全不同的工具。此外，雖然自動駕駛車輛需要每種情況的實際數據，但人類駕駛員可以根據預先學習的概念做出理性決策，以應對無數情況。這些例子顯示了人類智能的一個特征，與機器人算法形成了鮮明對比，機器人算法無法在數據不足的情況下執行任務。

哺乳動物持續進化了6500多萬年。人類花在學習數學、使用語言和玩游戲上的全部時間加起來也不過10000年。換句話說，人類花了大量時間發展與生存直接相關的能力，如行走、跑步和使用雙手。

因此，計算機的計算速度比人類快得多并不奇怪，因為計算機最初就是為了這個目的而開發的。同樣，計算機不能像人類那樣輕易獲得自由使用手和腳的各種能力也很自然，因為這些技能是通過1000多萬年的進化獲得的。

這就是為什么將機器人或人工智能在演示中的表現與動物或人類的能力進行比較是不合理的。在麻省理工學院觀看Cheetah機器人穿越田野、跨越障礙的視頻時，就認為像動物一樣行走和奔跑的機器人技術已經成熟可就太輕率了。

許多機器人演示仍然依賴于在有界情況下為特殊任務設置的算法。事實上，研究人員傾向于選擇看似困難的演示，因為這會給人留下深刻印象。然而，這種難度是從人的角度考慮的，這可能與實際的算法性能無關。

在任何邏輯思維之前，人類很容易受到瞬間和反思性感知的影響。當研究對象非常復雜，很難進行邏輯分析時，這種認知偏見就會加強，例如，一個使用機器學習的機器人。

那么我們人類的認知偏見從何而來？我相信這是由于我們的心理傾向，下意識地將我們所看到的事物進行了擬人化。人類已經進化為社會性動物，在這個過程中可能會發展出相互理解和同情的能力。我們將主體擬人化的傾向也來自于同樣的進化過程。

人們在提到編程算法時傾向于使用“教學機器人（teaching robots）”這一表達。然而，我們習慣于使用擬人化表達。正如18世紀哲學家David Hume所說，“人類有一種普遍的傾向，即把所有的生命都設想得像他們自己。”

當然，我們不僅將受試者的外表擬人化，還將他們的心理狀態擬人化。例如，當波士頓動力公司（Boston Dynamics）發布了一段工程師踢機器人的視頻時，許多觀眾的反應是“這太殘忍了”，他們“同情機器人”。

一條評論說，“有一天，機器人會對那個工程師進行報復”受到了歡迎。實際上，工程師只是在測試機器人的平衡算法。然而，在理解這種情況的任何思維過程之前，像動物一樣的機器人的攻擊性踢腿動作和掙扎動作會瞬間傳遞到我們的大腦，給我們留下深刻的印象。就像這樣，這種瞬間的擬人對我們的認知過程有著深刻的影響。

Humans process information qualitatively， and computers， quantitively

人類定性地處理信息，計算機定量地處理信息

環顧四周，我們的日常生活充滿了算法，運行這些算法的機器和服務就可以看出這一點。所有算法都以數字為基礎。我們使用諸如“目標函數（objective function）”之類的術語，這是一個代表特定目標的數值函數。許多算法的唯一目的是達到該函數的最大值或最小值，而算法的特性因其實現方式而異。

贏得圍棋或國際象棋比賽等任務的目標相對容易量化。量化越容易，算法工作得越好。相反，人類往往在沒有定量思考的情況下做出決策。

舉個“打掃房間”的例子，我們每天的清潔方式都有細微的差別，這取決于情況、房間是誰的以及一個人的感受。我們是否試圖在這個過程中最大化某個功能？我們沒有這樣做。清潔的行為是以“足夠清潔”為抽象目標進行的。此外，“足夠”的標準很容易改變。這一標準在人與人之間可能會有所不同，特別是在家庭成員或室友之間會引起沖突。

還有許多其他的例子。當你每天洗臉時，你打算用手的動作最大化哪些定量指標？你擦得有多用力？選擇穿什么？選擇晚餐吃什么？選擇先洗哪個盤子？這樣的例子不勝枚舉。我們習慣于通過整合我們已有的信息來做出足夠好的決策。

然而，我們通常不會檢查是否每個決策都是優化的。大多數情況下，我們不可能知道，因為我們必須用有限的數據滿足許多相互矛盾的指標。當我們和朋友在商店選購食品時，我們無法量化食品標準，并根據這些數值做出決定。

通常，當一個人挑選某樣東西時，另一個人會說“好！”或者建議另一種選擇。這與說這種蔬菜“是最佳選擇”截然不同，這更像是說“這已經足夠好了”。

在設計我們期望機器人執行的工作或服務時，人和算法之間的這種操作差異可能會帶來麻煩。這是因為當算法基于定量值執行任務時，人類的滿意度，即任務的結果，很難被完全量化。

要量化一項任務的目標并不容易，因為該任務必須適應個人偏好或不斷變化的環境，如上述房間清潔或洗碗任務。也就是說，為了與人類共存，機器人可能需要進化，而不是優化特定功能，而是實現“足夠好”。當然，在現實生活中，后者更難實現，因為在現實生活中，你需要管理如此多的相互沖突的目標和定性約束。

Actually， we do not know what we are doing

事實上，我們并不知道在做什么

在讀這篇文章之前，試著回憶一下你最近吃過的一頓飯。你還記得你吃了什么嗎？那么，你還記得咀嚼和吞咽食物的過程嗎？你知道你的舌頭當時到底在干什么嗎？我們的舌頭為我們做了很多事情。

它幫助我們把食物放進嘴里，在牙齒間分配食物，吞下細嚼過的食物，甚至在需要時把大塊食物送回牙齒。我們當然可以做到這一切，即使在和朋友交談時，也可以用你的舌頭來控制發音。

我們有意識的決定在多大程度上促進了我們同時完成如此多復雜任務的舌頭運動？看起來好像我們在隨心所欲地移動舌頭，但事實上，更多的時候，舌頭會自動移動，從我們的意識中接受高級命令。這就是為什么我們不能記住吃飯時舌頭的詳細動作。首先，我們對他們的行動知之甚少。

我們可能認為我們的手是最有意識地控制的器官，但許多手的動作也會自動地、無意識地發生，或者最多是潛意識地發生。對于那些不同意的人，試著把鑰匙之類的東西放進口袋，然后拿出來。

在這短短的一瞬間，無數的微操作立即無縫地協調完成了任務。我們通常無法單獨感知每一個動作。我們甚至不知道應該把它們分成哪些單位，所以我們把它們統統表達為抽象的詞語，如整理、清洗、涂抹、擦拭等。

這些動詞都是定性定義的。它們通常是指精細動作和操作的集合，其組成隨情況而變化。當然，即使是孩子們也很容易理解和思考這個概念，但從算法開發的角度來看，這些詞是無限模糊和抽象的。

還是舉一個在面包上涂抹花生醬來做三明治的例子。我們可以展示是如何做到這一點的，并用幾句簡單的話進行解釋。讓我們假設一個稍微不同的情況 —— 設有一個外星人使用與我們相同的語言，但對人類文明或文化一無所知（我知道這個假設已經自相矛盾了，但請容忍我。）

我們能在電話里解釋一下如何做花生醬三明治嗎？我們可能會在解釋如何從罐子里舀出花生醬時卡殼。即使是抓取面包片也不是那么簡單，我們必須用力抓住面包，這樣才能涂抹花生醬，但又不能太用力，以免破壞軟面包的形狀。

換句話說，我們很容易想到如何抓住面包，但要通過語言或文字來表達這一點并不容易，更不用說在函數中了。即使是一個人在學習一項任務，我們能通過電話學習木匠的工作嗎？我們能通過電話準確地糾正網球或高爾夫球的姿勢嗎？很難辨別我們所看到的細節在多大程度上是有意或無意完成的。

我的觀點是，并不是我們用手和腳所做的一切都可以用我們的語言直接表達出來。在連續動作之間發生的事情通常會無意識地自動發生，因此我們用一種比實際發生方式簡單得多的方式來解釋我們的動作。

這就是為什么我們的行為看起來很簡單，為什么我們忘記了它們是多么不可思議。表達的局限性常常導致低估實際的復雜性。我們應該認識到這樣一個事實，即語言描述的困難會阻礙詞匯發展不完善領域的研究進展。

直到最近，人工智能已實際應用于與數據處理相關的信息服務中。今天一些突出的例子包括語音識別和面部識別。現在，我們正在進入一個人工智能的新時代，它可以在我們中間有效地進行物理服務。也就是說，復雜物理任務的自動化時代即將到來。

特別是，我們日益老齡化的社會構成了巨大的挑戰。勞動力短缺不再是一個模糊的社會問題。我們迫切需要討論如何開發增強人類能力的技術，使我們能夠專注于更有價值的工作，追求人類特有的生活。

這就是為什么不僅是工程師，而且來自各個領域的社會成員都應該提高他們對人工智能和無意識認知偏見的理解。如上所述，人們很容易誤解人工智能，因為它在本質上與人類智能不同。

對人類來說很自然的事情可能是對人工智能和機器人的認知偏見。如果不清楚我們的認知偏見，我們就無法為技術研究、應用和政策設定適當的方向。為了使科學界的發展富有成效，我們需要敏銳地關注我們的認知，并在促進技術的適當發展和應用過程中進行慎重的辯論。

Sangbae Kim是麻省理工學院仿生機器人實驗室的領導者。上面這篇文章改編自Kim在6月份為Naver Labs發布的博客。

編輯：jq