計算是對信息進行有目的的操縱。數據正在成為主要的生產手段。深度學習在新的基礎上進行計算。? ?—— 陸奇(時任微軟 Bing 研發部門負責人)
ChatGPT 幕后的締造者是非營利機構 OpenAI,OpenAI 的創始成員兼首席科學家伊利亞·薩特斯基弗是與杰夫·辛頓一起創立 DNNresearch 的學生之一,杰夫·辛頓是在 2019 年與 Lecun(楊立昆)一起獲得圖靈獎的人工智能科學家,而楊立昆在 2015 年 OpenAI 成立不到一天的時間里就斷言它必將失敗。深度學習的發展放佛一個向上回旋的怪圈,即使告別了寒冬,暖春的腳步似乎也來得異常緩慢。
一、「革命」始于一場秘密競拍
也許現在正是討論人工智能(AI)的好時候,自 2012 年深度學習「革命」以來,距今正好過去了 10 年時間。
10 年前,杰夫·辛頓和他的兩位學生憑借神經網絡 AlexNet 拿下 ImageNet 冠軍,向世界證明神經網絡能夠以超越其他任何技術的精度識別常見的物體。此后,通過一場秘密競拍,辛頓將神經網絡推向科技行業的中心,戲劇性地加速了人工智能的進步。
在最新出版的《深度學習革命》一書中,這場秘密競拍被第一次完整展現在世人面前。彼時,參與競拍的不只有硅谷巨頭谷歌與微軟,還有中國的互聯網公司百度,以及當時成立僅兩年的 DeepMind(雖然沒能贏得競拍,但在接下來的 10 年時間里,DeepMind 成為了這個時代最著名且最有影響力的人工智能實驗室)。
地平線創始人余凱與 AI 科學家鄧力也在這場競拍中扮演了重要的角色。當時的他們,一個在領導百度新成立的新媒體部,一個是微軟的研究員。二人在回國的飛機上座位相鄰,對深度學習的追求也使得兩人志趣相投,但囿于各自的雇主,他們都沒有透露自己參與競拍的故事。甚至直到《深度學習革命》出版,二人才最終確認當年參與競標的另外三家公司。
自 2012 年的競拍之后,一小群來自世界各地的人工智能研究人員散落在谷歌、Meta、微軟與百度等科技公司(還有幾位后來成立了非營利組織 OpenAI),他們將開始花費數十年的時間培育一個想法,一種機器。
二、深度學習的「十年」進程
深度學習帶來一種力量,也帶來了更多的質疑,還有巨頭們對利潤貪得無厭的渴望。
2013 年,也是秘密競拍的后一年,杰夫·辛頓與自己的兩名學生加入了谷歌。同年,馬克·扎克伯格和楊立昆創立了 Facebook 人工智能研究實驗室。
2014 年,谷歌收購了當年參與秘密競拍的另一家公司 DeepMind。2015 年,辛頓當年獲獎團隊的學生之一——伊利亞·薩特斯基弗與埃隆·馬斯克等人創立了 OpenAI。
也是在這幾年間,科技巨頭們向深度學習研究人員支付了數千萬美元甚至數億美元,包括工資、獎金和公司股票。
遵循付出才有回報的原則,2016 年,AlphaGo 在韓國首爾擊敗李世石;2017 年,AlphaGo 在中國擊敗柯潔。兩個月后,中國國務院發布了《新一代人工智能發展規劃》,提出到 2030 年中國要成為人工智能的世界領導者,目標是超越美國在內的所有競爭對手。同年,英偉達推出漸進式 GAN,它可以生成照片級的人臉,也引發了大眾對 AI 倫理的討論。
2019 年,杰夫·辛頓、楊立昆和約書亞·本吉奧獲得圖靈獎。辛頓在發表獲獎感言時說:“作為成功團體的一員,總是比獨自一人更好”。同年,微軟向 OpenAI 投資 10 億美元,而亞馬遜的人臉識別技術遭到頂級研究人員的抗議。
2020 年,Covariant 在柏林發布分揀機器人。2021 年,聯合國教科文組織推出《人工智能倫理問題建議書》,這是關于人工智能的首份全球性規范框架,旨在促進人工智能為人類服務,并預防其潛在風險。
2022,也就是去年,以深度學習技術為代表的人工智能取得了令人矚目的進展。無論是風頭正盛的 ChatGPT,還是全民參與的 AI 繪畫,又或者是業內認可的圖像處理模型 DALL-E,都展示了人工智能令人著迷的能力。
有人說這是深度學習的風光大年,還有人說這是 ?OpenAI 元年。
三、常識:世界運行的潛規則
然而,隨著深度學習技術涉及的領域更加廣泛,包括醫療健康、政府監控和軍隊,它可能出錯的方式也變得更多。
此外,科學界對如何利用深度學習近年來的進展也存在很大分歧。一些科學家認為復雜的模型是有感情的,應該被歸為“人格”;也有人認為,目前的深度學習研究方法應該指向真正社會化的通用人工智能(AGI);與此同時,另一些科學家研究了當前模型的不足之處,并指出即使是最先進的深度學習系統也有著與早期模型相同的缺陷——也就是圖靈獎得主楊立昆所說的缺乏“常識”。
人類和人工智能之間的差距正是由缺乏常識造成的,有人將常識描述為“語言和智能的暗物質”和“世界如何運作的潛規則”,這些規則影響著人們使用和解釋語言的方式。
常識對于人類來說是微不足道的,對于機器來說則是困難的。因為顯而易見的事情永遠不會被說出來,每一條規則都有無窮無盡的例外,而且在常識問題上也沒有普遍的真理。這是模棱兩可的,混亂的東西。
這種缺陷在 ChatGPT 這樣的系統中很明顯,它生成的文本常常是語法正確,但在邏輯和事實上有明顯缺陷的。
事實上,大型語言模型往往在簡單的邏輯問題上犯嚴重錯誤,并作出前后不一致的陳述。
簡而言之,目前的人工智能沒有任何關于語言和思想的成分,也沒有一般意義上的認知。
有人列出了深度學習系統中缺失的認知的四個方面:
抽象概念: 像 ChatGPT 這樣的深度學習系統仍然需要處理計數和分類等基本概念;
推理: 大型語言模型無法推理基本的事實;
組合: 人類理解語言是由部分組成的整體,而當前的人工智能仍然在為此而掙扎,當 DALL-E 這樣的模型被要求繪制具有層次結構的圖像時,我們就可以發現這一點;
自動更新: 人類能夠通過不斷適應來維護不完美的世界,大型語言模型則不然。它們不能通過提供新的事實來逐步更新自己的認知,而是需要無數次接受再培訓,才能吸收新知識。
四、人工智能的 樂觀時刻:ChatGPT
ChatGPT 爆火后,楊立昆在一次 Zoom 會議上稱其算不上是 Rocket Science(有巨大進展的科研成果),尤其是就底層技術而言。楊立昆表示 ChatGPT “背后沒有任何秘密可言”,而它的締造者 OpenAI 也只是做到了將近年來先進的人工智能技術排列組合而已。
在最新出版的《深度學習革命》一書中,也記錄了楊立昆最開始對 OpenAI 的態度。在 OpenAI 成立之初,以楊立昆為代表的,在硅谷科技公司任職的科學家們并不看好這樣一個憑空出現的人工智能研究組織。在 OpenAI 成立后的幾個小時里,楊立昆告訴創始成員薩特斯基弗,他正在犯一個錯誤,并給出了 10 多條理由,比如 OpenAI 的研究人員太年輕、非營利形式不賺錢以及實驗室缺少經驗等等。
“你會失敗的”,楊立昆對薩特斯基弗說。
雖然從底層技術看,ChatGPT 并不算創新,但其社會影響遠遠超出了所有人的預期。人類當前的技術水平距離真正的智能也許還有很長的一段路,但在樂觀時刻出現之前,技術將人類推向新高度的方式往往令人驚訝。
辛頓常常說:“舊的想法也是新的”,他認為科學家用不應該放棄一個想法,除非有人證明它行不通。
深度學習的興起標志著數字技術的構建方式出現了根本的改變。工程師們不再細致地定義機器應該如何運行,一次一條規則,一次一行代碼,他們打造著可以通過自身經驗學習任務的機器,這些經驗包含了巨量的數字信息,甚至沒有人能完全理解。
五、永不停息的競賽
10 年前的那場競拍,谷歌最終以 4400 萬美元獲勝,并在之后以 6.5 億美元收購了 DeepMind;時任 Facebook CEO 的扎克伯格則迅速找到楊立昆,成立了自己的研究實驗室;而百度緊接著宣布吳恩達將為該公司管理硅谷北京兩地的實驗室。
10 年后的今天,微軟宣布將 ChatGPT 整合入自家搜索引擎 Bing,并向 OpenAI 再投 100 億美元。
強大的技術總是讓人著迷,也讓人恐懼,于是人類一次又一次地在它們身上豪賭。只是在人工智能領域,籌碼比科學家們所知道的還要高。
這也是科技行業的運作方式:科技巨頭們永遠都在一場永不停息的競賽中,追逐著下一項變革性技術,無論那是什么,每家公司都想率先抵達那里,如果有誰搶先一步,那么其他人將面臨巨大的壓力,必須毫不拖延地抵達。
在話劇《阿卡狄亞》中有這樣一句臺詞:“當我們發現了所有的奧秘,并失去了所有的意義時,我們將會在空蕩蕩的海邊孤身一人。” 在人工智能的探索之路上,也許人類永遠無法探知所有的奧秘,又或許會時時懷疑這段探索之旅的意義,但所幸的是,即使在深度學習的寒冬中,無論是辛頓還是楊立昆,都不曾真正孤身一人。
編輯:黃飛
?
評論
查看更多