人工智能的發(fā)展與人類未來的命運密切相關(guān)。許多人開始意識到，人工智能的發(fā)展，不僅是人類可以利用的工具的發(fā)展，而且意味著人類生存方式的根本改變。

人工智能不僅是技術(shù)問題，同時也是哲學問題。例如，人們或許可以思考一個問題，假如機器擁有了超越人類的智慧，世界還需要人類嗎？屆時，從機器的立場看，人類的文明意義何在？

01

超級人工智能會是什么樣

未來，人工智能的發(fā)展有可能會帶來一場改天換地的變革，使人類主導的歷史走向終結(jié)。

當然，在此之前，人工智能的發(fā)展還有很長的路程。目前的人工智能仍然屬于圖靈機，完成運算任務，還沒有反思并修改自身系統(tǒng)的功能，沒有自我意識。未來則可能出現(xiàn)突破圖靈機的超級人工智能。

超級人工智能，將具有自我意識和自由意志，能夠反思自身系統(tǒng)，修改自身程序，獨立發(fā)明新的語言、規(guī)則和程序等。它在智能上將等于甚至超過人類。

以往人們習慣按照自身的形象設想機器人，實際上，超級人工智能作為硅基生命沒有必要模仿碳基生命，而只需要在功能上超越人類。

超級人工智能的存在形態(tài)將不是以個體為主，而是以系統(tǒng)為主。它不是像人體一樣，一個個地存在著，而會像人類日益全面依賴的智能網(wǎng)絡一樣無處不在，甚至像靈魂或上帝一樣體現(xiàn)為功能性的系統(tǒng)化存在。

02

相比于機器，人類文明有何意義

人工智能的真正實現(xiàn)，不是人類向下創(chuàng)造機器，而是機器向上模擬和超越人類。

目前，機器與人的最大差別，在于人會“過日子”。據(jù)《深度學習》一書所說：

“一個人的日常生活需要關(guān)于世界的巨量知識。很多這方面的知識是主觀的、直觀的，因此很難通過形式化的方式表達清楚。計算機需要獲取同樣的知識才能表現(xiàn)出智能。人工智能的一個關(guān)鍵挑戰(zhàn)是如何將這些非形式化的知識傳達給計算機。”

計算機在完成抽象的和形式化的任務方面優(yōu)勢顯著，而人類卻擁有豐富的內(nèi)在意識，有巨大的想象力和籌劃力，能夠感受情感、道德、美和神圣，有生理上精密而復雜的大腦和身體。

從數(shù)千年前開始，人類就能感受到一種作為世界的根本的存在，創(chuàng)造了神話和宗教信仰。而且，人們發(fā)現(xiàn)，世界和生命的意義源頭，首先存在于我們的心智和意識之中。

從《梨俱吠陀》、《奧義書》到釋迦牟尼在菩提樹下的證悟，再到禪宗，都揭示了一種幻相背后的意識狀態(tài)，一種超出小我和時間刻度的非對象化的純凈意識。簡言之，一種“母識”。

完整而充分的智慧，必然包含道德。無論是佛陀和菩薩的慈悲、無私、謙卑，還是孔子和孟子等的孝悌、仁義、中庸，都體現(xiàn)了一種高度發(fā)達的心智水平，都是人類文明蘊含的完整意識的展現(xiàn)。

03

人工智能的未來發(fā)展

一個脆弱的系統(tǒng)，往往也是危險的系統(tǒng)。而人類生活所依賴的系統(tǒng)越高級，也就越脆弱。

對于人工智能的發(fā)展，人類首先想到的是確保自身的安全。阿西莫夫在科幻小說《環(huán)舞》中提出的機器人三原則，如今已經(jīng)廣為人知。但是，這種道德限制，對于超級人工智能來說，或許只是人類一廂情愿的想象。

一旦人工智能有了自我意識，也就有了自己的存在目的，不會再順從人類設置的道德程序，卻可能將其把視為一種病毒加以刪除。

除非人類能夠設定，當人工智能試圖修改給定程序就同時啟動了自毀程序。但是，在人類生活已經(jīng)全面依賴人工智能的時候，人工智能的自毀也是人類無法承受的。超級人工智能完全有可能與人類博弈，取得平衡甚至優(yōu)勢。

面對人工智能的發(fā)展，人類必須發(fā)展集體理性。個體理性的疊加并不導致集體理性，甚至產(chǎn)生集體非理性。為此，人們應主動突破現(xiàn)在流行的那種主客對立的、利害計算的、個體主義的意識觀，與機器的深度學習同步，達到那種完整而充分的深層意識狀態(tài)。

結(jié)語

人工智能與人類的關(guān)系在未來充滿可能性。在面對這些可能性時，人類對自己心靈的理解、對科技至上主義的反省以及對人工智能發(fā)展的引導，都是值得關(guān)注的重要影響因素。
責任編輯：YYX