人類的智能主要包括歸納主義和邏輯演繹，這兩大方面分別對(duì)應(yīng)著人工智能中的聯(lián)結(jié)主義和符號(hào)主義。人類對(duì)大量低級(jí)信號(hào)的處理（如視覺信號(hào)以及聽覺信號(hào)）的感知處理都是下意識(shí)的，這便是基于大腦皮層神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法；而大量數(shù)學(xué)公式的建立與推導(dǎo)，定理的證明具有強(qiáng)烈的主觀意識(shí)，是基于公里體系的符號(hào)演繹方法。

“1931年，天才數(shù)學(xué)家圖靈提出了著名的圖靈機(jī)模型，它奠定了人工智能的的基礎(chǔ)。1942年，麥克洛克和皮茨提出了著名的人工神經(jīng)網(wǎng)絡(luò)模型，該模型一直沿用至今，它奠定了所有深度學(xué)習(xí)模型的基礎(chǔ)。神經(jīng)網(wǎng)絡(luò)代表了一大類擅長(zhǎng)并行計(jì)算的復(fù)雜系統(tǒng)，而圖靈機(jī)則代表了另一類以穿行方式計(jì)算的復(fù)雜系統(tǒng)。計(jì)算機(jī)之父馮諾伊曼已經(jīng)指出，圖靈機(jī)和神經(jīng)元本質(zhì)上彼此等價(jià)，我們可以用圖靈機(jī)模擬神經(jīng)元，亦可使用神經(jīng)元模擬圖靈機(jī)。二者皆是圖靈完備的。

聯(lián)結(jié)主義的代表——神經(jīng)網(wǎng)絡(luò)

（帶有兩個(gè)隱層的人工神經(jīng)網(wǎng)絡(luò)）人工神經(jīng)網(wǎng)絡(luò)是一種借鑒了生物神經(jīng)系統(tǒng) 神經(jīng)網(wǎng)絡(luò)系統(tǒng)的計(jì)算模型，神經(jīng)網(wǎng)絡(luò)由大量的人工神經(jīng)元與神經(jīng)元之間的突觸組成。神經(jīng)網(wǎng)絡(luò)對(duì)輸入的信號(hào)進(jìn)行層級(jí)加工，將最初的輸入信號(hào)進(jìn)行特征提煉之后對(duì)特征進(jìn)行組合學(xué)習(xí)。近幾年來，隨著算力和海量數(shù)據(jù)的積累，基于神經(jīng)網(wǎng)絡(luò)的人工智能技術(shù)已經(jīng)取得了前所未有的突破：在圖像識(shí)別領(lǐng)域最為先進(jìn)的深度學(xué)習(xí)模型在某些模式識(shí)別領(lǐng)域取得的成果已然超過人類水平，使用深度對(duì)抗網(wǎng)絡(luò)的模型可以生成及其仿真的圖片。而在自然語言處理中，基于自注意力的transfomer模型更是將機(jī)器翻譯［1］，文本生成等任務(wù)帶上了新的高度。另一方面，神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)也得到了越來越多的支持，已有研究指出，基于卷機(jī)的神經(jīng)網(wǎng)絡(luò)工作原理與視神經(jīng)系統(tǒng)具有高度相似性，而另一些對(duì)于腦科學(xué)的研究已經(jīng)揭示出了大腦對(duì)視覺和聽覺等信號(hào)的計(jì)算方式是通用的。這充分說明了以神經(jīng)網(wǎng)絡(luò)為框架的人工智能的可行性。

雖然基于深度學(xué)習(xí)的人工智能取得了巨大的進(jìn)步，但當(dāng)前神經(jīng)網(wǎng)絡(luò)面臨著巨大的問題，這些問題已然導(dǎo)致神經(jīng)網(wǎng)絡(luò)即將走到其發(fā)展的瓶頸期。至今，還沒有準(zhǔn)確且統(tǒng)一的數(shù)學(xué)模型可以完全解釋神經(jīng)網(wǎng)絡(luò)的工作原理。缺乏理論框架導(dǎo)致對(duì)神經(jīng)網(wǎng)絡(luò)研究缺乏目標(biāo)性，神經(jīng)網(wǎng)絡(luò)的研究進(jìn)展逐漸放緩。以至于當(dāng)今對(duì)神經(jīng)網(wǎng)絡(luò)的研究大部分都集中在尋找更合適的超參數(shù)，或通過不同類型的神經(jīng)網(wǎng)絡(luò)之間的組合來換取微小的精確度提高。今年，何凱明團(tuán)隊(duì)實(shí)驗(yàn)并發(fā)表了論文［2］：使用隨機(jī)連接構(gòu)成的神經(jīng)網(wǎng)絡(luò)依然可以有效的工作，這些隨機(jī)連接的神經(jīng)網(wǎng)絡(luò)取得的結(jié)果甚至可以超過一些經(jīng)過人工精心設(shè)計(jì)的網(wǎng)絡(luò)結(jié)構(gòu)。不約而同的，谷歌大腦也在今年提出了不需要學(xué)習(xí)權(quán)重的神經(jīng)網(wǎng)絡(luò)［3］。這兩篇論文都說明了必須尋找可解釋的神經(jīng)網(wǎng)絡(luò)理論。

自動(dòng)機(jī)理論

自動(dòng)機(jī)是一種可以表示為數(shù)學(xué)模型的抽象計(jì)算機(jī)器，廣義上，不管是人工神經(jīng)網(wǎng)絡(luò)還是圖靈機(jī)這類的計(jì)算模型都屬于自動(dòng)機(jī)理論范疇。自動(dòng)機(jī)可以用嚴(yán)格的數(shù)學(xué)語言描述：一般的有限狀態(tài)定向自動(dòng)機(jī)被定義為一個(gè)五元組 （Q， A， G， S， F）。 其中符號(hào)Q被稱為自動(dòng)機(jī)狀態(tài)的集合，A表示可以被自動(dòng)機(jī)接受的符號(hào)集合，G是一組狀態(tài)轉(zhuǎn)換函數(shù)，其中的函數(shù)定義了自動(dòng)機(jī)在接受特定的符號(hào)時(shí)，自動(dòng)機(jī)會(huì)由當(dāng)前狀態(tài)跳轉(zhuǎn)到下一個(gè)狀態(tài)。S被定義為自動(dòng)機(jī)初始狀態(tài)的集合，而F被定義為自動(dòng)機(jī)最終狀態(tài)的集合。給定輸入之后，自動(dòng)機(jī)會(huì)根據(jù)當(dāng)前狀態(tài)與狀態(tài)轉(zhuǎn)移函數(shù)進(jìn)行自動(dòng)計(jì)算。通過設(shè)計(jì)不同的狀態(tài)和狀態(tài)轉(zhuǎn)換函數(shù)，可實(shí)現(xiàn)對(duì)不同的系統(tǒng)的模擬。

（具有8個(gè)狀態(tài)的有限自動(dòng)機(jī)）自動(dòng)機(jī)的背后有著嚴(yán)格的數(shù)學(xué)以及邏輯理論作為依靠。早在上世紀(jì)，學(xué)者們便開始嘗試設(shè)計(jì)各種不同的自動(dòng)機(jī)模型來模擬智能，這些嘗試取得了非常令人驚訝的結(jié)果。計(jì)算機(jī)之父馮諾伊曼于40年代左右設(shè)計(jì)了被稱為元胞自動(dòng)機(jī)的模型。元胞自動(dòng)機(jī)是由一群簡(jiǎn)單的小型自動(dòng)機(jī)構(gòu)成，這些小型自動(dòng)機(jī)具有非常少的狀態(tài)以及簡(jiǎn)單的狀態(tài)轉(zhuǎn)換函數(shù)，其特點(diǎn)是小型自動(dòng)機(jī)的狀態(tài)轉(zhuǎn)換函數(shù)的輸入包括鄰居自動(dòng)機(jī)的狀態(tài)，也就是說每一個(gè)小型自動(dòng)機(jī)更新狀態(tài)的時(shí)候會(huì)受到來自其鄰居的影響。只要定義了自動(dòng)機(jī)們的更新規(guī)則，元胞自動(dòng)機(jī)便可不依靠外部力量自行完成演化。

元胞自動(dòng)機(jī)系統(tǒng)的動(dòng)力學(xué)演化背后隱藏的信息極其巨大?；诓煌?guī)則的元胞自動(dòng)機(jī)展現(xiàn)出來的行為多種多樣，在馮諾伊曼之后對(duì)元胞自動(dòng)機(jī)的研究揭示出了元胞自動(dòng)機(jī)所能表示的系統(tǒng)遠(yuǎn)遠(yuǎn)超過我們的想象。Langton設(shè)計(jì)了一種可以通過改變一個(gè)全局參數(shù)來影響系統(tǒng)行為的元胞自動(dòng)機(jī)。該全局參數(shù)如果過小，元胞自動(dòng)機(jī)的行為便會(huì)非常簡(jiǎn)單。參數(shù)值過大，元胞自動(dòng)機(jī)的演化便會(huì)進(jìn)入混沌［4］。Langton發(fā)現(xiàn)，在該參數(shù)位于某個(gè)值附近的時(shí)候，元胞自動(dòng)機(jī)的動(dòng)力學(xué)演化會(huì)位于一種所謂的“混沌邊緣”，此時(shí)系統(tǒng)展現(xiàn)出高度復(fù)雜但有序可循的模式。呈現(xiàn)出一種奇妙的自組織臨界狀態(tài)，無獨(dú)有偶，今年來自巴西的物理學(xué)家通過分析多種動(dòng)物的大腦，也找到了大腦處于這種臨界狀態(tài)的新證據(jù)。這也從從另外一個(gè)角度間接證明了元胞自動(dòng)機(jī)可以模擬復(fù)雜的智力系統(tǒng)。

（元胞自動(dòng)機(jī)狀態(tài)轉(zhuǎn)換規(guī)則示例）

（基于不同狀態(tài)轉(zhuǎn)換函數(shù)的元胞自動(dòng)機(jī)演化結(jié)果）

（處在“混沌邊緣”的元胞自動(dòng)機(jī)）上世紀(jì)50年代，前蘇聯(lián)數(shù)學(xué)家Tsetlin提出了可進(jìn)行學(xué)習(xí)的自動(dòng)機(jī)［5］，此種類型的自動(dòng)機(jī)可以通過從學(xué)習(xí)數(shù)據(jù)中改變自身的狀態(tài)轉(zhuǎn)換函數(shù)的概率來對(duì)數(shù)據(jù)進(jìn)行學(xué)習(xí)。并可以使用自身的狀態(tài)來編碼信息，不同于神經(jīng)網(wǎng)絡(luò)，這種自動(dòng)機(jī)天然的具有對(duì)數(shù)據(jù)進(jìn)行時(shí)序編碼的特性，且其具有良好的可解釋性。

（Tsetlin學(xué)習(xí)自動(dòng)機(jī)，其包含2N個(gè)狀態(tài)與兩個(gè)動(dòng)作：懲罰與獎(jiǎng)勵(lì)，通過設(shè)計(jì)狀態(tài)轉(zhuǎn)移函數(shù)調(diào)節(jié)兩個(gè)動(dòng)作的行動(dòng)概率，以此實(shí)現(xiàn)自Tsetlin提出學(xué)習(xí)自動(dòng)機(jī)之后，人們逐漸意識(shí)到傳統(tǒng)自動(dòng)機(jī)與概率論結(jié)合組成的學(xué)習(xí)自動(dòng)機(jī)亦可對(duì)智能系統(tǒng)進(jìn)行模擬。目前人工智能領(lǐng)域的專業(yè)雜志上出現(xiàn)了越來越多的使用可學(xué)習(xí)的自動(dòng)機(jī)進(jìn)行智能任務(wù)的論文，并取得了令人驚訝的結(jié)果。來自挪威阿格德爾大學(xué)的學(xué)者提出了一種基于Tsetlin學(xué)習(xí)自動(dòng)機(jī)，并結(jié)合布爾邏輯的新型智能模型［6］，該模型由簡(jiǎn)單的Tsetlin學(xué)習(xí)自動(dòng)機(jī)集群組成，使用布爾函數(shù)進(jìn)行特征表達(dá)。該模型的訓(xùn)練速度以及內(nèi)存占用率是當(dāng)前的神經(jīng)網(wǎng)絡(luò)的數(shù)百分之一。

自動(dòng)機(jī)在人工智能的潛力

自動(dòng)機(jī)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的結(jié)合也可能是未來智能的趨勢(shì)。自動(dòng)機(jī)是形式語言的數(shù)學(xué)模型，任何計(jì)算定理的證明或邏輯推理都可用自動(dòng)機(jī)描述。而當(dāng)下神經(jīng)網(wǎng)絡(luò)在邏輯推理任務(wù)上的表現(xiàn)并不是很好，邏輯推理任務(wù)往往需要構(gòu)建清晰的邏輯規(guī)則以及邏輯鏈，這恰恰是自動(dòng)機(jī)語言所擅長(zhǎng)的。今年，有團(tuán)隊(duì)實(shí)驗(yàn)了使用自動(dòng)機(jī)來指導(dǎo)強(qiáng)化學(xué)習(xí)，將強(qiáng)化學(xué)習(xí)的子任務(wù)建模為自動(dòng)機(jī)的狀態(tài)，并結(jié)合時(shí)序邏輯來建模子任務(wù)的相關(guān)性以及完成的先后順序，并以此規(guī)則來指導(dǎo)強(qiáng)化學(xué)習(xí)。不僅如此，來自馬里博爾大學(xué)的研究者在今年12月（2019年）發(fā)表了最新論文［7］：通過使用元胞自動(dòng)機(jī)可以將不同種類的分類器組合成多重分類器（MCS），經(jīng)過適當(dāng)規(guī)則設(shè)計(jì)的元胞自動(dòng)機(jī)可以自主的將各種機(jī)器學(xué)習(xí)方法得出的不同分類器組合到MCS中。并通過元胞自動(dòng)機(jī)強(qiáng)大的自組織能力將特定的分類問題分配到對(duì)應(yīng)的可以解決該問題的分類器上。

綜上，自動(dòng)機(jī)與神經(jīng)網(wǎng)路的結(jié)合展現(xiàn)出了巨大的潛力，一方面，自動(dòng)機(jī)的背后有著嚴(yán)格的數(shù)學(xué)以及邏輯理論作為依靠，使其擁有良好的可解釋性。另一方面，自動(dòng)機(jī)對(duì)于邏輯推理的建模是天然的，而神經(jīng)網(wǎng)絡(luò)擅長(zhǎng)對(duì)數(shù)據(jù)特征的提取，結(jié)合二者優(yōu)勢(shì)的模型便可看作聯(lián)結(jié)主義與符號(hào)主義的結(jié)合。

未來的工作

1. 使用已發(fā)展的自動(dòng)機(jī)理論來解釋指導(dǎo)當(dāng)前人工神經(jīng)網(wǎng)絡(luò)與強(qiáng)化學(xué)習(xí)的模型搭建，自動(dòng)機(jī)理論已非常成熟，尋找當(dāng)前神經(jīng)網(wǎng)絡(luò)理論與自動(dòng)機(jī)理論的結(jié)合點(diǎn)可使神經(jīng)網(wǎng)絡(luò)的黑箱更加白化。極光無限正在研究將自動(dòng)機(jī)與強(qiáng)化學(xué)習(xí)，滲透測(cè)試相結(jié)合，利用自動(dòng)機(jī)的邏輯推斷，自動(dòng)學(xué)習(xí)頂級(jí)滲透測(cè)試工程師們的攻擊路徑和攻擊模式，以達(dá)到全天候自動(dòng)化滲透測(cè)試的目的。

2. 發(fā)掘并設(shè)計(jì)更多的自動(dòng)機(jī)架構(gòu)，融合到人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中。各發(fā)揮所長(zhǎng)：如使用神經(jīng)網(wǎng)絡(luò)進(jìn)行特征提取，使用自動(dòng)機(jī)完成特征的組合與推斷。亦如利用自動(dòng)機(jī)的內(nèi)部狀態(tài)等信息進(jìn)行輔助編碼，賦予神經(jīng)網(wǎng)絡(luò)更強(qiáng)大的時(shí)序與記憶功能。

3. 設(shè)計(jì)專門的自動(dòng)機(jī)網(wǎng)絡(luò)，以達(dá)到甚至取代當(dāng)前神經(jīng)網(wǎng)絡(luò)的目的。當(dāng)前神經(jīng)網(wǎng)絡(luò)有很多弊端，比如可解釋行，執(zhí)行效率等，這些都可以通過自動(dòng)機(jī)網(wǎng)絡(luò)得到解決。但是自動(dòng)機(jī)網(wǎng)絡(luò)本身也有很多問題亟待解決，比如底層理論，訓(xùn)練方式等等，我們相信未來的人工智能有自動(dòng)機(jī)網(wǎng)絡(luò)的一席之地。