很多家庭使用交互式音箱，但用戶在家里的竊竊私語會不會被家里的音響“偷走”呢？人工智能時代如何實現用戶的隱私保護？

科大訊飛董事長劉慶峰在世界人工智能大會產業發展全體會議上表達了上述擔憂。

算法歧視、非法移動跟蹤、數據隱私侵犯……人工智能在帶給人類巨大進步與福利的同時，也帶來了不可忽視的風險。

7月10日，以“人工智能的權利義務與法律實踐”為主題的世界人工智能大會法治論壇（下稱“論壇”）舉行。論壇上，上海市法學會、浙江清華長三角研究院、華東政法大學、上海政法學院聯合發布《世界人工智能法治藍皮書（2020）》（下稱《藍皮書（2020）》）、《人工智能法治發展指數》（下稱《指數》）和《2019中國人工智能法治發展評估報告》，關注人工智能發展中的熱點、核心法律問題。

人工智能立法如何突破？

《藍皮書（2020）》的內容由前言、人工智能法治綜述、人工智能法治發展指數、2019年中國人工智能法治發展報告、專題報告等11個部分組成。

其中6篇專題報告分別聚焦區塊鏈技術、醫療領域人工智能應用、人臉識別與隱私權保護、數據安全、知識產權保護、復合型人才培養等人工智能發展和應用中的熱點、核心法律問題。

如何用法律和科技來保護用戶隱私安全、數據安全？

韓國梨花大學法學院教授李元馥認為，要設計一個法律體系，來激勵并鼓勵開發者開發出更清晰、更透明的人工智能。其中一種方法是使用侵權責任來激勵和約束人工智能開發者。

“如果我們能在侵權法的設計上，讓開發者的責任與其開發的人工智能的可解釋性成反比，將有利于社會。因為它將激勵人工智能開發者努力開發更易于解釋和審查的人工智能。” 李元馥說。

上海交通大學凱原法學院訪問特聘教授秦裕林認為，在預防人工智能可能帶來危害的同時，也應當建立相應的法律法規，且與市場的力量相結合，倡導能自覺守法，友好地為人類服務的人工智能技術和系統的研究與開發。

人工智能立法已經提上日程，立法具體要遵循哪些規則？

中國法學會學術委員會主任張文顯認為，智能社會是科技賦能型社會。法律要以激勵和保護大數據、云計算、區塊鏈、互聯網、物聯網、人工智能創新發展為首要原則，推進中國智能科技占領世界科技的制高點。

美國康奈爾大學法學院王氏中國法講席教授於興中表示，如果我們要制定有關人工智能的法律，就必須制定反映人類道德的法律。

“社會倫理、職業倫理、生物學研究倫理、機器人倫理、人工智能倫理等都與法律有關。道德原則將作為立法和執法的指導，可以被視為人工智能開發人員的內部約束，也可能成為人工智能開發人員的設計參數。”於興中說。

瑞典隆德大學法律社會學教授哈坎·海登（Hkan Hydn）則認為，機器學習也將給法治帶來突破。

“隨著數字化技術的出現，技術本身也已成為法規的來源。規范的出發點已變更。當技術自身開始成為規范時，數字化過程將進一步發展。” 海登稱。

人工智能司法應用正在推廣

與《藍皮書（2019）》相比，《藍皮書（2020）》的另一大特點是制定了《人工智能法治發展指數》。

《指數》確定了政策文件、理論支撐、執法實施、市場規模、社會關注、法治環境等6個一級指標，旨在客觀、準確、全面反映我國人工智能法治發展狀況，引領、推進人工智能法治研究。

“可量化、可視化的形式較準確、客觀、全面反映人工智能法治發展情況，為人工智能法治研究提供支撐，推動人工智能法治建設。” 上海政法學院校長、藍皮書編委會副主任劉曉紅表示。

《2019中國人工智能法治發展評估報告》顯示，2019年中國人工智能法治發展評估得分 83.79 分，總體水平較高，但相對薄弱環節在于執法領域具體場景化人工智能產品的運用。

實際上，上海在人工智能與司法的深度融合方面已經做出了表率。

上海市法學會黨組書記、會長，上海市高級人民法院原院長、二級大法官崔亞東在論壇上介紹，經過三年多的努力，集中700余人合力攻關，上海在2019年底成功完成研發“推進以審判為中心的訴訟制度改革——上海刑事案件智能輔助辦案系統”（下稱“206系統”），先后獲國家批準六項知識產權。上海刑事案件辦理從立案、偵查、報捕、起訴、審判均在“206系統”內運行。

據統計，2019年1月至2020年6月，206系統累計錄入證據材料14，047，275頁、提供證據指引541，754次（依系統點擊量統計）、提供知識索引8，331次、提示證據瑕疵28，309個。

“智能輔助審訊系統研發應用，推動了審訊工作的改革，是傳統的審訊工作模式向現代化智能化審訊模式質的飛躍。這是人工智能等新技術與刑事司法實踐深度融合的重大成果，使我國憲法、刑法、刑訴法確立的刑事法律原則得以落地，體現了中國法治的進步。” 崔亞東表示。

目前，該系統在安徽、山西、貴州、新疆生產建設兵團、云南等省市已推廣應用。