美國(guó)防高級(jí)研究計(jì)劃局（DARPA）最近發(fā)起了“人工智能前沿”（AI Forward）計(jì)劃，用于發(fā)現(xiàn)和探索新的研究方向，以構(gòu)建和部署與國(guó)家安全相關(guān)的、可信賴的人工智能（AI）和機(jī)器學(xué)習(xí)應(yīng)用程序。

DARPA希望通過(guò)“人工智能前沿”計(jì)劃與專家們通力合作，致力于近期內(nèi)使可信賴的人工智能技術(shù)成為現(xiàn)實(shí)，同時(shí)為DARPA相關(guān)的信息技術(shù)戰(zhàn)略投資提供意見(jiàn)。

自從2022年11月ChatGPT公開(kāi)供公眾使用之后，其廣受歡迎。這種交互式聊天機(jī)器人可以在一定程度上準(zhǔn)確地完成各種不同的任務(wù)，可以在人類的提示下生成音頻、代碼、圖像、文本、視頻和其他內(nèi)容，并能以對(duì)話的方式與人們進(jìn)行令人信服的互動(dòng)，這標(biāo)志著生成式人工智能的一種具體應(yīng)用。

盡管目前ChatGPT等生成式人工智能系統(tǒng)能力非常引人注目，但美國(guó)防部（DoD）認(rèn)為，它們尚未達(dá)到DoD所需要的可靠性水平。

一、ChatGPT帶來(lái)的新興能力

DARPA專家認(rèn)為，人工智能技術(shù)的發(fā)展將經(jīng)歷三波浪潮。第一波是基礎(chǔ)性的，包括基于規(guī)則的人工智能系統(tǒng)。這些人工智能系統(tǒng)遵循人類定義的規(guī)則。第二波人工智能系統(tǒng)引入了統(tǒng)計(jì)方法，可以對(duì)外來(lái)信息進(jìn)行聚類和分類，然后根據(jù)數(shù)據(jù)預(yù)測(cè)任何下一步行動(dòng)。當(dāng)?shù)谌ㄈ斯ぶ悄芾顺蓖耆珜?shí)現(xiàn)時(shí)，人工智能系統(tǒng)將基本上具備識(shí)別和響應(yīng)物理世界的能力，并可就其決策提供準(zhǔn)確的情境解釋。

DARPA專家認(rèn)為，ChatGPT這樣的大型語(yǔ)言模型屬于第二波人工智能技術(shù)范疇，目前還沒(méi)有看到任何第三波人工智能的成功例子。雖然現(xiàn)在人們建立了ChatGPT這樣規(guī)模巨大的人工智能模型，但并沒(méi)有全面了解它們知道什么、不知道什么、它們有什么能力，而這是一個(gè)超級(jí)艱巨的問(wèn)題。要真正理解這些模型及其功能，將需要付出大量的、專門的努力，這正是AI Forward計(jì)劃的全部?jī)?nèi)容。

近期，超過(guò)1000名技術(shù)領(lǐng)袖和科學(xué)家寫了一封公開(kāi)信，呼吁至少在接下來(lái)的六個(gè)月內(nèi)立即暫停生產(chǎn)比GPT-4（或最新版本的病毒文本生成引擎）更強(qiáng)大的人工智能模型。

其實(shí)，早在ChatGPT上市之前，DARPA就已經(jīng)提出了AI Forward計(jì)劃，因?yàn)榕c商業(yè)行業(yè)相比，美國(guó)國(guó)防部對(duì)人工智能潛在的破壞和風(fēng)險(xiǎn)有著更深層次的理解和關(guān)注。

二、推進(jìn)AI Forward技術(shù)

為了啟動(dòng)AI Forward計(jì)劃，DARPA將在2023年6月舉辦一個(gè)虛擬研討會(huì)，并于7月下旬開(kāi)始在波士頓舉辦一次現(xiàn)場(chǎng)研討會(huì)，屆時(shí)參與者將就“引人注目的新方向”進(jìn)行頭腦風(fēng)暴，以設(shè)計(jì)高度可信的AI。隨著這些活動(dòng)的結(jié)束，DARPA將邀請(qǐng)參與者編寫白皮書(shū)，為快速探索DARPA可能資助的特定主題提供決策信息。DARPA認(rèn)為，在可能對(duì)創(chuàng)建可信的人工智能系統(tǒng)至關(guān)重要的高級(jí)別類別中，最重要的兩個(gè)領(lǐng)域涉及人類理解的人工智能及此類系統(tǒng)在多個(gè)方面的基礎(chǔ)理論，以及如何開(kāi)發(fā)這些技術(shù)。

盡管當(dāng)前出現(xiàn)了類似GPT-4這樣的大型多模態(tài)人工智能模型，DARPA也沒(méi)有據(jù)此來(lái)構(gòu)建所需要的人工智能系統(tǒng)。因?yàn)椋绻@樣做可能為濫用和難以控制的意外打開(kāi)大門。

此外，DARPA還在AI Forward計(jì)劃中尋求與合作者進(jìn)行人和人工智能的合作。DARPA希望機(jī)器能夠成為不同背景的人的隊(duì)友，為人提供流暢、直觀、值得信賴的服務(wù)。

目前，DARPA官員對(duì)AI Forward計(jì)劃可能實(shí)現(xiàn)的所有目標(biāo)持開(kāi)放態(tài)度，而不僅僅考慮一種解決方案。因?yàn)槿斯ぶ悄艿墓δ芎瓦\(yùn)作方式與人類不同，至少對(duì)當(dāng)前一代和可預(yù)見(jiàn)的近期人工智能來(lái)說(shuō)是這樣。這需要人們用不同的方式來(lái)衡量和評(píng)估它們。

審核編輯 ：李倩