智能機器人自信地“走上”舞臺擔綱主持﹔無人車在測試道路上完成一系列動作，司機卻穩坐千裡之外﹔智能健康“魔鏡”能實時顯示測試者“睡眠”“情緒”“皮膚”等一系列健康指標系數。曾經在科幻電影中才能看到的炫酷片段已經在生活中得以實現，種種“黑科技”被廣泛應用，人工智能的發展深刻地影響著社會生活。

但同時，隨著人工智能技術應用越來越廣泛，人工智能“脆弱面”也逐漸暴露，機器人“自我意識”、技術濫用等安全漏洞引起業界更多關注。專家表示，要加強對潛在風險的研判和防范，確保人工智能各項技術安全、可靠、可控。當今，世界各國紛紛布局人工智能，國際競爭日趨激烈。然而，人工智能的快速發展也使得網絡安全的風險點和攻擊方式出現新變化，進而引發更深層次的網絡安全風險。

事實上，劫持智能設備已經成為網絡攻擊的重要手段。網絡安全專家表示，許多無人值守系統運用人工智能技術，一旦遭網絡劫持，將帶來嚴重的安全問題。例如，智能汽車可與車廠服務器連接，通過手機遠程控制，車主需要定期更新軟件保証汽車的駕駛模式，如此一來就可能被網絡劫持。

此外，圖像、聲音合成滋生新的風險。國家互聯網應急中心的相關專家稱，隨著技術的發展，現在的合成圖像、語音越來越逼真。如果把該技術用于網絡詐騙，虛構人臉和語音，是非常可怕的事情。由于人工智能技術依托的算法、大數據等可以很低的成本進行復制和擴散，其傳播渠道廣，監管難度大，封控幾率低。

目前，人工智能技術正由“弱人工智能”向“強人工智能”階段躍進，能夠依據其所掌握的算法、數據，在短時間內快速突破人類傳承多年的經驗積累。

2016年，由谷歌旗下“深度思維”（DeepMind）公司開發的AlphaGo橫空出世，經深度學習后橫掃人類圍棋界翹楚。一年后，零基礎起步的新程序AlphaGo Zero，通過自我訓練，在叁天內與自身對弈490萬局后，以100：0的成績擊敗“前輩”AlphaGo。2017年，美國社交媒體平臺臉書公司實驗室中的兩個人工智能機器人使用機器學習相互對話，并不斷進行對話策略迭代升級，逐漸發展出了一種機器之間能理解但人類無法理解的語言。

當前，人工智能研究高度開放附帶源代碼的海量論文可免費下載，即便編寫一種折型算法的時間成本也隻需幾天，人工智能技術的濫用風險激增。此外，人工智能既有多學科綜合、高度復雜等特性，帶有天然的技術壁壘，給監管部門的監督管理和風險防范提出了不小的挑戰。

除技術發展外，人工智能帶來的社會影響不容小覷。通過特定算法全方位了解用戶偏好和需求，為消費者“量身定制”的“精準推送”正成為商家引導消費的新途徑。

近年來，北京、上海、重慶、濟南等地的商圈開始試水“智慧商圈”模式，可以根據顧客的特征更精準地推送優惠券商品信息，讓用戶更有消費動力。比如，給年輕的未婚白領女性推送化妝品和奢侈品的品牌商券﹔給媽媽們推薦嬰兒用品店﹔給男性推送運動品牌門店活動，等等。

“智慧商圈”帶來生活便捷卻容易引發“信息騷擾”問題。消費者的一個簡單操作就有可能暴露想要購買某件商品的想法，后續會不斷收到同類商品的廣告宣傳，產生困擾。長此以往，商場導購等從事決策分析、藝術創作等工作也有被機器人取代的可能，人工智能技術的日臻成熟將打碎傳統職業群體的“飯碗”，進而引發新產業革命和經濟結構調整，形成“去勞動力”傾向，最終產生失業風險。

不僅如此，人工智能產生的道德倫理隱憂不斷。有專家表示，人工智能設計者的價值導向和行為偏好易于被有意或無意地反映到算法、數據當中，并通過機器學習被人工智能所承繼，進而演進為算法歧視。而在具體適用過程中，容易受到對抗樣本的干擾或污染，被應用者二次形塑，做出背離設計初衷的錯誤決策。

2016年3月，美國微軟公司發布了名為Tay的最新版本人工智能機器人。然而，上線不到24小時，Tay就“學壞”了：出言不遜、臟話不斷，言語甚至涉及種族主義、色情、納粹，充滿歧視、仇恨和偏見。微軟隻得不停刪除Tay的不當言論，進行下線調整。專家表示，在人工智能飛速發展的時代，安全問題日益凸顯，需要我們加強對潛在風險的研判和防范，切實維護好人民利益和國家安全，確保人工智能安全可靠、可控。

在網絡安全防護上，應加強技術研究，建立有效安全防護，抵御網絡攻擊。專家建議，可以建立主動免疫的計算架構，對計算進行安全防護，使計算全程可測可控，不被干擾。利用人工智能應對網絡攻擊，“免疫系統”中不管哪個系統受到攻擊，都有統一的人工智能系統發出指令，採取相應措施。