面對(duì)人工智能迅速發(fā)展以及其正在或可能引發(fā)的經(jīng)濟(jì)社會(huì)問(wèn)題，我們必須積極探索并致力于形成務(wù)實(shí)管用、行之有效的人工智能治理體系。

以人工智能為代表的新一代信息技術(shù)正在深刻改變著世界，改變著人類(lèi)生活。新技術(shù)亟待新治理。習(xí)近平總書(shū)記在致首屆世界人工智能大會(huì)的賀信中要求，堅(jiān)持推動(dòng)發(fā)展和優(yōu)化治理緊密結(jié)合起來(lái)，進(jìn)一步健全治理體系，鋪設(shè)法治軌道，為人工智能發(fā)展注入更多安全因素。近日，剛剛落幕的“2020世界人工智能大會(huì)”圍繞“人工智能的權(quán)利義務(wù)與法治實(shí)踐”進(jìn)行了深入研討，進(jìn)一步引發(fā)了人們對(duì)人工智能治理的思考。應(yīng)當(dāng)說(shuō)，一種新技術(shù)的出現(xiàn)，都會(huì)引發(fā)有關(guān)舊的治理規(guī)則是否適用，以及是否需要制定新的治理規(guī)則的討論。互聯(lián)網(wǎng)治理經(jīng)歷了這個(gè)階段，人工智能治理也面臨同樣的境況。面對(duì)人工智能迅速發(fā)展以及其正在或可能引發(fā)的經(jīng)濟(jì)社會(huì)問(wèn)題，我們必須積極探索并致力于形成務(wù)實(shí)管用、行之有效的人工智能治理體系。

當(dāng)前人工智能治理面臨多種困境

第一，治理松緊度難以把握。人工智能作為新一輪信息技術(shù)革命的重心和高科技的風(fēng)口，正在深刻地影響著人類(lèi)社會(huì)的前進(jìn)軌跡。一方面，推動(dòng)人工智能更好地發(fā)展，就要進(jìn)一步簡(jiǎn)政放權(quán)、放管結(jié)合、優(yōu)化服務(wù)，創(chuàng)造更加寬松的發(fā)展環(huán)境、更加公平高效的監(jiān)管、更加簡(jiǎn)捷便利的服務(wù)，為人工智能蓬勃發(fā)展清障助力。另一方面，人工智能也存在著巨大的風(fēng)險(xiǎn)隱患，隱私數(shù)據(jù)被無(wú)節(jié)制使用、網(wǎng)絡(luò)安全漏洞層出不窮、技術(shù)壟斷越來(lái)越突出、現(xiàn)存?zhèn)惱碇刃蚴艿經(jīng)_擊和挑戰(zhàn)等，這些都是懸在人工智能之上的達(dá)摩克利斯之劍，隨時(shí)可能爆發(fā)“爆炸式”風(fēng)險(xiǎn)或“踩踏式”風(fēng)險(xiǎn)。人工智能治理隨之也陷入松和緊的兩難選擇困境。

第二，對(duì)智能技術(shù)本身的治理責(zé)任難以認(rèn)定。

牛津大學(xué)教授弗洛里迪和桑德斯依據(jù)行動(dòng)者之互動(dòng)關(guān)系標(biāo)準(zhǔn)，確立交互性、自主性和適應(yīng)性三個(gè)標(biāo)準(zhǔn)以判定智能技術(shù)是否具備倫理責(zé)任主體地位。這一研究認(rèn)為，一個(gè)與其環(huán)境持續(xù)產(chǎn)生交互的系統(tǒng)，如果在沒(méi)有響應(yīng)外部刺激的情況下也能行動(dòng)，也有在不同的環(huán)境中行動(dòng)的能力，這個(gè)系統(tǒng)就可以被視作行動(dòng)者。倫理學(xué)界對(duì)人工智能技術(shù)的道德主體地位存在較大爭(zhēng)議。一種觀點(diǎn)認(rèn)為，雖然智能技術(shù)可以通過(guò)算法影響行為體的行動(dòng)路徑，但因其尚未完全達(dá)到自主性和適應(yīng)性，將其判定為獨(dú)立的倫理行動(dòng)者依據(jù)不足。另一種觀點(diǎn)認(rèn)為，智能技術(shù)已不僅僅是技術(shù)性輔助工具或起媒介作用的技術(shù)中介，在一定程度上，智能技術(shù)已經(jīng)主動(dòng)介入或干預(yù)社會(huì)事務(wù)治理。后一種觀點(diǎn)認(rèn)為，人類(lèi)智能由于其在限定的時(shí)間里的計(jì)算速度有限，很難在窮舉中得出最優(yōu)解，而往往通過(guò)經(jīng)驗(yàn)、直覺(jué)等方法得出自認(rèn)為滿意的答案。而人工智能通過(guò)合并算法和深度學(xué)習(xí)可以在極短的時(shí)間內(nèi)精確計(jì)算所有的可能性，從而使得它們能夠選擇人類(lèi)完全沒(méi)有考慮過(guò)而“出人意料”的解決問(wèn)題方法，作出的結(jié)論可能同人類(lèi)認(rèn)知系統(tǒng)作出的決策有很大差異。人工智能還可能影響人類(lèi)的價(jià)值判斷，比如，在新聞傳播領(lǐng)域，雖然互聯(lián)網(wǎng)企業(yè)不直接涉足新聞內(nèi)容制作，但其推薦的算法實(shí)際在對(duì)新聞價(jià)值從不同維度予以賦值，直接影響著大眾的新聞閱讀導(dǎo)向。

第三，治理時(shí)機(jī)的選擇困境。著名的“科林格里奇困境”指出了技術(shù)評(píng)估的兩難困境：在技術(shù)發(fā)展的早期控制其應(yīng)用方向相對(duì)容易，但此時(shí)決策者缺少合理控制的專(zhuān)業(yè)知識(shí)，也缺少對(duì)發(fā)展趨勢(shì)的準(zhǔn)確判斷，當(dāng)技術(shù)應(yīng)用的風(fēng)險(xiǎn)顯露時(shí)，對(duì)它的控制已幾乎不可能。人工智能是基于互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等新一代信息技術(shù)而發(fā)展起來(lái)的技術(shù)科學(xué)，新技術(shù)的發(fā)展具有很大的不確定性，基于新技術(shù)的人工智能發(fā)展同樣具有不確定性。當(dāng)前，人工智能發(fā)展進(jìn)入“無(wú)人區(qū)”，包括技術(shù)持續(xù)探索的無(wú)人區(qū)，在應(yīng)用中摸索的無(wú)人區(qū)，以及配套政策、法規(guī)、倫理的無(wú)人區(qū)，無(wú)人區(qū)前路茫茫，既有重大發(fā)展機(jī)遇，也面臨突發(fā)性風(fēng)險(xiǎn)挑戰(zhàn)，對(duì)治理者來(lái)說(shuō)最大的難點(diǎn)在于治理對(duì)象和風(fēng)險(xiǎn)的不確定性，難以精準(zhǔn)施策、有效治理。

積極破解人工智能治理難題

在治理原則上，堅(jiān)持促進(jìn)創(chuàng)新和底線治理相結(jié)合。一方面，人工智能是創(chuàng)新性科學(xué)技術(shù)，具有顛覆性和不可預(yù)見(jiàn)性等特征，其發(fā)展和應(yīng)用可能給經(jīng)濟(jì)社會(huì)帶來(lái)顛覆性變化。但這種改變遵從量變到質(zhì)變的演進(jìn)邏輯，只有當(dāng)技術(shù)發(fā)展到一定程度，與產(chǎn)業(yè)融合達(dá)到一定深度，并經(jīng)過(guò)大量試錯(cuò)、校正和調(diào)整后，才可能帶來(lái)實(shí)質(zhì)性的改變。因此，人工智能治理必須秉持促進(jìn)創(chuàng)新、促進(jìn)發(fā)展的原則，只有在“必要”的時(shí)候才對(duì)其進(jìn)行規(guī)制，而且政府規(guī)制要遵循適時(shí)、適度的原則，盡量采用對(duì)技術(shù)發(fā)展干預(yù)最小的規(guī)制方式。另一方面，在放松規(guī)制的同時(shí)也要加強(qiáng)底線管理，確保對(duì)人工智能風(fēng)險(xiǎn)的有效防范，尤其是要加強(qiáng)對(duì)諸如數(shù)據(jù)安全、技術(shù)壟斷、算法偏見(jiàn)、倫理道德等重點(diǎn)領(lǐng)域的規(guī)制。

在治理模式上，明確人工智能本身治理責(zé)任和構(gòu)建多元協(xié)同治理機(jī)制相結(jié)合。人工智能可以通過(guò)技術(shù)手段抓取個(gè)體或組織的信息，再通過(guò)算法對(duì)相關(guān)信息進(jìn)行分析和計(jì)算，進(jìn)而得出有關(guān)個(gè)體或組織的“畫(huà)像”；反之，人工智能還能夠根據(jù)所掌握的“畫(huà)像”信息，采取有針對(duì)性的措施來(lái)影響和干預(yù)相關(guān)主體。如此一來(lái)，人工智能在某種意義上就成為“另類(lèi)”的治理主體。就目前的技術(shù)發(fā)展?fàn)顩r而言，更為重要的是確立人工智能商業(yè)機(jī)構(gòu)的倫理地位，賦予其相應(yīng)的治理權(quán)限，推動(dòng)人工智能商業(yè)機(jī)構(gòu)加強(qiáng)企業(yè)自治。在此基礎(chǔ)上，推動(dòng)人工智能從傳統(tǒng)的政府主導(dǎo)的權(quán)威自上而下的單向管理走向政府主導(dǎo)、企業(yè)自治、社會(huì)廣泛參與的協(xié)同治理模式，在確保發(fā)揮政府公共性、主導(dǎo)性作用的同時(shí)，又充分利用企業(yè)的效率高、專(zhuān)業(yè)性強(qiáng)的特點(diǎn)，還能兼顧社會(huì)主體回應(yīng)快、訴求準(zhǔn)等特征，綜合多個(gè)主體、多種手段的優(yōu)勢(shì)，形成多元主體協(xié)同共治的人工智能治理新范式。要特別注重轉(zhuǎn)變政府職能定位，人工智能發(fā)展的開(kāi)放性使得監(jiān)管機(jī)構(gòu)難以準(zhǔn)確定位監(jiān)管對(duì)象，信息不對(duì)稱(chēng)問(wèn)題的加劇還可能導(dǎo)致監(jiān)管行為走向反面。因此，要積極調(diào)整治理結(jié)構(gòu)與治理邏輯，推動(dòng)政府從“劃槳人”向“掌舵人”轉(zhuǎn)變，促其將工作重心放到積極營(yíng)造人工智能良好發(fā)展環(huán)境上。應(yīng)積極參與人工智能全球治理，以多種形式促進(jìn)人工智能重大國(guó)際共性問(wèn)題的解決，共同應(yīng)對(duì)人工智能發(fā)展中的全球性挑戰(zhàn)。

在治理手段上，積極推行法律法規(guī)和公共政策前置治理相結(jié)合。為了走出“科林格里奇困境”，一些國(guó)家在人工智能倫理治理和立法實(shí)踐方面行動(dòng)迅速，采取相對(duì)前置的治理模式，積極推動(dòng)人工智能立法工作。比如，美國(guó)提出《人工智能未來(lái)法案》，重點(diǎn)就人工智能對(duì)經(jīng)濟(jì)發(fā)展、勞動(dòng)就業(yè)、隱私保護(hù)等方面的影響進(jìn)行法律規(guī)制。中國(guó)也加快了與人工智能密切相關(guān)的立法項(xiàng)目，如數(shù)字安全法、個(gè)人信息保護(hù)法和修改科學(xué)技術(shù)進(jìn)步法等，已列入立法規(guī)劃。但從法律經(jīng)濟(jì)學(xué)角度看，法律和公共政策在一定程度上具有可替代性，都能起到規(guī)范社會(huì)秩序的作用。在某一階段，對(duì)某一具體問(wèn)題，究竟是用法律，還是用公共政策，主要取決于問(wèn)題本身的明確性和變化性。法律具有相對(duì)的剛性和滯后性，這也決定了它在應(yīng)對(duì)人工智能這類(lèi)明確性較差、變化性較大的問(wèn)題時(shí)往往會(huì)遇到一定的困難。相比之下，公共政策更為靈活，能夠?qū)ψ兓膯?wèn)題相機(jī)作出反應(yīng)，這使它在很多時(shí)候比法律更有效。比如，面對(duì)人工智能可能帶來(lái)的算法歧視問(wèn)題，我們可以提前做好標(biāo)準(zhǔn)規(guī)范的制定、對(duì)從業(yè)人員職業(yè)倫理和專(zhuān)業(yè)技能的培訓(xùn)，以及相關(guān)評(píng)價(jià)機(jī)制的建立，通過(guò)制定相對(duì)前置的公共政策以確保人工智能的技術(shù)中立性。由于這些政策相對(duì)靈活，可以根據(jù)現(xiàn)實(shí)情況及時(shí)調(diào)整，因此在多變的環(huán)境下可能比立法更管用。