摘要

隨著算力提升、數據積累等因素的共同作用，人工智能技術的應用門檻逐步降低，在網絡安全領域的應用快速拓展，加劇現實安全威脅的同時也催生了新型安全威脅，全球關鍵信息基礎設施安全受到挑戰。從人工智能在網絡安全領域的應用出發，以網絡安全威脅為視角進行分析，得出關鍵信息基礎設施防護面臨著攻擊模式自動演化、攻擊手段自動化、攻擊者分工專業化等挑戰。結合當前全球關鍵信息基礎設施防護的普遍實踐，提出智能化防護體系、縮短發起響應的時間、培養 AI+ 網絡安全人才等對策，為保障關鍵信息基礎設施安全提供科學參考。

4結語

自 20 世紀 50 年代首次提出人工智能這一概念后，隨著計算機技術的不斷進步，人工智能概念的范圍也逐漸擴大，計算機圖像識別、數據挖掘、深度學習等技術也相繼被納入人工智能的范疇。近些年，在算力提升、數據積累等因素的共同作用下，人工智能技術的應用范圍不斷擴大，應用門檻也逐步降低，引起了世界主要國家和集團的高度重視。2017 年，中國印發了《新一代人工智能發展規劃》，提出要在 2030 年使“中國人工智能理論、技術與應用總體達到世界領先水平，成為世界主要人工智能創新中心”。2019 年，美國發布《2018 國防部人工智能戰略概要》，提出要將人工智能作為未來關鍵的軍事技術進行研究，并于同年發布了新的《國家人工智能研究與發展戰略規劃》。歐盟、俄羅斯、日本、印度等國也相繼發布其在人工智能領域的規劃和目標 。人工智能已經成為大國競爭的新領域，各國政府都在積極推動人工智能技術在各領域的應用。與此同時，人工智能的各類問題也引起了研究者們的重視，特別是人工智能倫理、人工智能軍事化、人工智能對政府治理的影響等議題尤為突出，已經有研究者將人工智能列為未來幾十年中人類面臨的最大挑戰之一 。隨著人工智能在網絡安全領域應用的逐步加深，越來越多的研究者也開始重視人工智能對于網絡安全的影響。

關鍵信息基礎設施作為網絡空間的基礎組成部分，其安全關乎網絡空間的穩定與秩序。近年來，全球范圍內針對關鍵信息基礎設施的攻擊呈快速增長和危害增強的趨勢：2019 年，委內瑞拉國家電網干線遭到攻擊，造成全國大面積停電；2021 年，美國最大燃油管道公司被黑客勒索，導致美國東海岸能源供應出現問題；2022 年俄烏戰爭期間，烏克蘭的黑客支持者對白俄羅斯鐵路網絡進行攻擊，導致正常的鐵路調度無法完成。隨著數字經濟在國家發展中的重要性不斷增強，關鍵信息基礎設施在網絡攻擊目標中的重要性明顯提升，攻擊關鍵信息基礎設施成為各類組織獲取非法經濟利益、推進政治主張的重要手段。人工智能在網絡安全領域的應用也強烈地影響著關鍵信息基礎設施的安全，特別是由于人工智能的“賦能”效應對各類網絡安全威脅的賦能使現有的關鍵信息基礎設施安全防護體系面臨挑戰。

本文將對當前人工智能在網絡安全領域的應用情況進行梳理分析，在此基礎上根據關鍵信息基礎設施防護現狀，從網絡安全威脅的角度分析關鍵信息基礎設施面臨的挑戰，最后提出應對挑戰的對策與建議，以期為關鍵信息基礎設施安全防護工作提供理論參考。

１人工智能在網絡安全領域的應用現狀和特點

人工智能技術在網絡安全領域得到應用的時間并不長，但因其應用前景使得越來越多的研究者投入其中，如今，人工智能已經是網絡安全領域中一個無法忽視的應用方向并形成了在其他應用領域所沒有的特點。

1.1人工智能在網絡安全領域的應用現狀

人工智能技術在網絡安全領域中的應用最早可以追溯到 2000 年左右，當時有國外的研究人員提出在入侵檢測中采用機器學習算法來提高檢測效率，為人工智能在網絡安全領域的應用提供了初始方向 。得益于過去 20 年來計算機算力水平的提高、網絡安全數據的積累以及各類算法的進步，人工智能在網絡安全領域的應用越來越多，從現有的情況來看，人工智能在網絡安全領域的應用主要集中在威脅檢測、漏洞挖掘與修復、組織和發現僵尸網絡、威脅情報識別以及繞過安全防護等方向。

威脅檢測是人工智能在網絡安全領域最早應用的方向之一，應用也最為成熟。傳統的流量分析檢測技術對流經檢測節點的每個數據包進行檢測分析，存在資源開銷大、溯源表現弱等客觀問題。美國“棱鏡計劃”曝光后，國內外網絡安全研究機構和廠商加快了將人工智能技術引入威脅檢測中的步伐。美國的 FireEye 公司、以色列的 Deep Instinct 公司以及國內的 360政企安全、啟明星辰、安天等公司均在自己的產品中引入了人工智能技術，融合日志、流量、資產等信息，提高了威脅檢出效率 。

漏洞挖掘與修復一直都是網絡安全領域最受重視的方向之一。長期以來，漏洞挖掘和修復工作都要依賴人工進行，這限制了網絡安全人員對漏洞的發現和修正速度，給黑客及黑客組織使用漏洞進行攻擊提供了機會。2016 年，美國國防部高級研究計劃局資助的第一屆機器自動攻防大賽（Cyber Grand Challenge，CGC）揭示了人工智能加持下漏洞自動化挖掘和修復的未來。近年來，已經有大量研究者提出將深度學習應用到漏洞挖掘中，并取得了一定的成果。

僵 尸 網 絡 一 直 在 隱 藏 攻 擊 者、 開 展 大 規模 分 布 式 拒 絕 服 務 攻 擊（Distributed Denial of Service，DDoS）方面扮演著重要角色。人工智能給僵尸網絡帶來的最大變化就是以大量物聯網（Internet of Things，IoT）設備為基礎，通過蜂巢網絡（Hivenets）和機器人集群（Swarmbots）使僵尸網絡中的設備從“奴隸”變為可以在一定監督下進行自主行動的機器人，極大地提高了僵尸網絡擁有者能夠維護的網絡規模以及僵尸網絡的擴張速度。網絡安全研究者也嘗試通過使用人工智能技術來實現為僵尸網絡發起的DDoS 攻擊提供早期檢測 。

威脅情報識別與利用對于現在的網絡安全愈發重要。攻擊者數量的快速增長，迫使網絡安全防護體系嘗試在攻擊發起之前就形成阻斷，這就是威脅情報的核心作用。然而傳統的威脅情報生成方法識別精度不高，普遍需要人工分析確認。人工智能能夠通過算法和模型提高人工分析的速度和準確度，進而提高威脅情報的產出。已有研究者提出使用神經網絡來進行威脅實體的識別，并在大規模網絡安全數據集上取得了較好的實驗結果。

繞過攻擊對象的安全防護一直是網絡攻擊者的目標，人工智能通過威脅模型算法提高安全防護的同時，也給攻擊者提供了新的安全敞口和攻擊思路。例如，人工智能模型的訓練需要不斷的數據積累，攻擊者可以通過構造錯誤的數據來干擾人工智能模型的學習，從而使模型失效，也就是“中毒攻擊”。也有直接通過構造數據對算法本身脆弱性進行攻擊的例子。也有攻擊者嘗試通過人工智能來發現現有防御體系的弱點或隱藏具體攻擊行為。目前已有研究提出通過對抗神經網絡來實現對現有流量監測技術的繞過。

除此之外，人工智能在網絡測繪、事件響應、風險評估等方面的應用也在持續深入。

1.2人工智能在網絡安全領域的特點

通過對人工智能在網絡安全領域的應用情況進行梳理，本文認為當前人工智能在網絡安全領域的應用相比其他領域的應用存在技術服務化、倫理顧慮少、對抗性強等特點。

（1）技術服務化。人工智能經過多年的發展，即使已經比最初誕生時大幅度降低了學習和使用的門檻，但其所要求的算力、知識和數據的絕對數量依然是大部分個人開發者難以負擔得起的。在人工智能應用的幾個主要領域中，人工智能作為產品進行售賣時往往需要進行較多的定制才能夠貼合實際業務場景的需要。網絡安全領域高度單一的對抗需求使得人工智能產品能夠形成聚焦精準方向的應用。專注于攻擊的比通用型的人工智能應用開發更加簡單、場景更加單一，不再需要終端用戶的大量適配，可以輕松封裝成為產品，從而使開發者和使用者分離開來，也就是技術服務化。

（2）倫理顧慮少。人工智能的倫理問題一直是社會關切的話題，已有學者指出人工智能本身具有的特征可能在基本人權、社會秩序和國家安全上產生倫理風險。在網絡安全領域中，已經有學者考慮到人工智能在個人信息保護中的倫理問題。但基于網絡安全領域本身的安全屬性，使得研究者們在新技術應用時受到的制約相對較少且缺少監督。在自動化攻擊手段使用場景和影響、自動化滲透測試方面對從業人員的影響等相關倫理問題的顧慮和討論較少。

（3）對抗性強。網絡安全領域的誕生與發展是網絡中對抗行為的結果。當越來越多的人涌入網絡空間時，網絡空間受到的攻擊也呈指數增長。相較于人工智能在其他領域的應用，網絡安全領域的人工智能的根本目的在于幫助使用者在對抗中取得優勢：眾多研究者的研究目的在于提高安全性，而攻擊者們希望突破安全防護。可以說，網絡安全領域的人工智能由于領域的特性，在表現上呈現出了遠超其他領域的對抗性。

２人工智能與關鍵信息基礎設施安全

威脅分析關鍵信息基礎設施安全一直是世界各國政府網絡安全工作關注的焦點。美國作為網絡技術的發源地，聯邦政府高度重視信息化建設工作。早在 1996 年 7 月 15 日就發布第 13010 號行政命令《關鍵基礎設施保護》，并于次年對關鍵信息基礎設施進行定義。1996 年，中國開始實行的網絡和信息系統等級保護制度也可以被認為是一種具有中國特色的關鍵信息基礎設施保護制度；2021 年 9 月 1 日起施行的《關鍵信息基礎設施安全保護條例》從法規上進一步完善了中國關鍵信息基礎設施安全防護體系。關鍵信息基礎設施安全防護的具體制度和措施在不同國家存在差別，但從全球主要國家的相關舉措上也可以看到，當前全球關鍵信息基礎設施安全存在著安全組織制度建設強于技術體系、基礎組件供應鏈高度同質化、容易成為網絡攻擊目標等共同點。

（1）安全組織制度建設強于技術體系。由于關鍵信息基礎設施涵蓋種類多，部署地域分散等特點，建立統一的關鍵信息基礎設施防護體系存在技術上的難度，很少有國家形成系統性的關鍵信息基礎設施安全防護技術體系。更多國家是將關鍵信息基礎設施運營者組織起來形成制度化的威脅情報共享機制、事件響應協同機制，如日本的網絡安全信息共享、脫歐以來的英國網絡安全新體制等都是在組織和制度角度提高關鍵信息基礎設施的安全水平 ，像是美國愛因斯坦工程那樣覆蓋全國關鍵信息基礎設施的安全技術體系還是少數。

（2）基礎組件供應鏈高度同質化。關鍵信息基礎設施大多結構復雜，但在全球關鍵信息基礎設施建設過程中可供選擇的軟件卻高度同質化。特別是自 Web2.0 時代以來，越來越多的信息系統采用 B/S 架構，關鍵信息基礎設施采用的開源組件高度同質。2021 年末爆發的 Apache Log4j 遠程代碼執行漏洞以及 2014 的 Heartbleed漏洞在全網范圍內造成了重大影響，大量關鍵信息基礎設施在漏洞爆發期安全承壓，甚至產生了應急人員不足的情況。關鍵信息基礎設施基礎組件供應鏈高度同質化的情況可見一斑。

（3）容易成為網絡攻擊目標。從近年來的重要網絡安全事件來看，針對關鍵信息基礎設施的攻擊數量急劇增長。一方面，關鍵信息基礎設施承載國民經濟正常運行，一旦被攻擊成功往往能讓攻擊者快速達到金錢、政治等方面的攻擊目的。另一方面，隨著網絡在社會中的滲透，特別是物聯網、工業互聯網的發展使得大量設備接入網絡空間，攻擊者能夠訪問到關鍵信息基礎設施的機會也越來越多。收益預期和攻擊敞口的變化使得關鍵信息基礎設施越來越容易成為網絡攻擊的目標。

當前網絡空間人工智能化的網絡攻防趨勢已經形成，關鍵信息基礎設施安全進一步受到全面挑戰 。關鍵信息基礎設施長期面對有國家背景的 APT 組織、隨時爆發的高等級脆弱性以及 APT 水平的勒索軟件等威脅，人工智能在網絡安全領域的應用又加速了傳統網絡安全威脅的進化。結合全球關鍵信息基礎設施安全的共同點，可以認為全球關鍵信息基礎設施面臨攻擊模式自動演化、攻擊手段自動化以及攻擊者分工專業化等安全挑戰。

2.1攻擊模式自動演化挑戰

傳統關鍵信息基礎設施安全主要是從邊界防護的角度對整體防護體系進行設計，從理念上來看缺少對抗性?，F有滲透測試方法中通過構造包含大量無效數據的請求包來繞過防火墻正是防護體系缺乏對抗性的表現。在人工智能的背景下，攻擊者將通過人工智能快速提高對抗的次數并進行分析，實現攻擊模式的自動演化?，F在已經有攻擊者嘗試通過生成對抗網絡（Generative Adversarial Networks，GAN）來模擬關鍵信息基礎設施防護體系的威脅檢測系統，從而讓自己的惡意代碼能夠繞過防護體系。類似的情況也發生在惡意文件檢測的繞過上。攻擊模式自動演化是人工智能給關鍵信息基礎設施帶來的最為嚴重的挑戰，長期來看將使關鍵信息基礎設施的安全防護體系的建設理念發生重大轉變。

2.2攻擊手段自動化挑戰

隨著人工智能應用門檻的進一步降低，越來越多的攻擊者開始通過人工智能技術開發自動化的攻擊手段或為原有的攻擊手段進行智能化升級。這一點在勒索軟件即服務（Ransomware as-a-Service，RaaS）和組織僵尸網絡上體現得尤為明顯。越來越多的勒索軟件和僵尸病毒通過預先設定的機器人（bot）程序在網絡內自動搜索并感染設備，從而快速擴大感染規模。攻擊者只需將惡意病毒載荷進行一次有效投放，就可以自動化實現階段性的攻擊目的。也有攻擊者為各個攻擊節點通過人工智能增強其自主性，實現去中心化的自動攻擊?？偟膩砜矗羰侄巫詣踊环矫婕涌炝斯舫晒髷U大影響的速度，另一方面延后了攻擊暴露的時間節點，對關鍵信息基礎設施安全響應的速度提出了更高要求。

2.3攻擊者分工專業化挑戰

早年的網絡攻擊者進行網絡攻擊的目的較為多樣，以炫技、出名為主要目的的攻擊者并不在少數，往往一個人承擔了網絡攻擊的全部環節。隨著數字經濟的發展，越來越多的攻擊者開始專注于非法利潤的獲取，對于攻擊工具更高的要求以及突破越來越多的安全防護策略使攻擊者逐漸產生分工。人工智能在網絡安全領域技術服務化的特點進一步加速了這一進程。網絡攻擊者中的研發人員可以更快地將更高級的工具封裝好提供給購買供給服務的人，關鍵信息基礎設施安全則受限于產業中人才的缺乏等因素，無法實現同樣速度的防護技術更新。

３關鍵信息基礎設施應對挑戰建議

有效應對人工智能對全球關鍵信息基礎設施安全形成的挑戰，需要從系統角度全面考慮。現有研究大多集中于技術層面，對人工智能帶來的全方位挑戰的重視度不夠。通過上文的分析，本研究認為全球關鍵信息基礎設施應對人工智能帶來的安全挑戰需要從構建智能化防護體系、縮短發起響應的時間以及培養 AI+ 網絡安全人才等方面做起。

3.1構建智能化防護體系

建設關鍵信息基礎設施安全防護體系一直是保障關鍵信息基礎設施安全的重要舉措。面對自動演化的攻擊模式，需要對關鍵信息基礎設施的安全防護體系進行全面的智能化改造。

除當前已經廣泛采用的基于人工智能的流量檢測外，關鍵信息基礎設施安全防護體系智能化還可以從以下幾個方面進行。一是加強人工智能在輔助決策方面的應用，將有限的安全運營人員從快速增長的大量攻擊中解放出來，專注于處理真實、高等級的攻擊，提高防護效率。二是采用多元化的威脅分析算法及模型，形成現有防護體系的聯動，如通過建設智能化的網絡安全運營中心，為低智能的安全設備賦能，整體提升防護體系的智能化水平。三是主動采取生成對抗網絡、遺傳算法等人工智能技術對現有防護體系進行測試，從而智能化地補充防護體系的安全策略。

3.2縮短發起響應的時間

在網絡安全領域，包以德循環（OODA）是由 Observation（觀察）、Orientation（判斷）、Decision（決策）、Action（執行）4 個單詞的首字母組合得名，常用于描述對從發現到響應網絡攻擊的過程。應對自動化的網絡安全攻擊手段，關鍵是縮短 OODA 中各環節的時間。當前較為有效的方法是大量部署基于云端數據的終端檢測 與 響 應（Endpoint Detection and Response，EDR）系統并提高威脅情報的作用。

一方面，EDR 系統作用于網絡攻擊的控制、利用階段效果顯著，能夠幫助關鍵信息基礎設施的安全運營者及時發現存在異常行為的終端，加快發現已經成功的網絡安全攻擊的速度。另一方面，準確迅速的威脅情報能夠幫助關鍵信息基礎設施安全防護體系及時啟動并完成有關研判，能夠大幅度提高安全策略的修改速度，縮短安全運營人員針對特定網絡安全攻擊發起響應的時間。

3.3培養 AI+ 網絡安全人才

關鍵信息基礎設施安全離不開專業人才的支持。面對越來越多的封裝好的人工智能攻擊工具，需要有更多具有人工智能學科背景的研究人員進行人工智能攻防技術的研究，從而研發出更有效的網絡安全防護產品。關鍵信息基礎設施運營者應該積極參與 AI+ 網絡安全人才的培養，提高人才數量和質量，加快網絡安全相關人工智能技術的研發和應用，賦能關鍵信息基礎設施安全防護。特別是關鍵信息基礎設施每天面臨著數量眾多的網絡攻擊，運營者掌握著大量寶貴的真實攻擊數據，通過和研究院所、企業等人才培養實體的合作，這些攻擊數據可以在培養 AI+ 網絡安全人才的過程中發真實場景構建、威脅數據建模等作用，提高人才培養效率。

4結語

關鍵信息基礎設施對于全球各國的社會經濟穩定與發展都有著重要意義，關鍵信息基礎設施安全也因此受到越來越多的重視。人工智能對于當前全球關鍵信息基礎設施形成的挑戰是普遍且深刻的。面對人工智能帶來的攻擊模式自動演化、攻擊手段自動化、攻擊者分工專業化等挑戰，需要加快構建智能化防護體系、縮短發起響應的時間并積極參與培養 AI+ 網絡安全人才，持續保障關鍵信息基礎設施安全。

審核編輯 ：李倩