不同產(chǎn)業(yè)在應用人工智能合成技術(shù)時,普遍存在現(xiàn)行規(guī)定不適用或應用風險不可控的問題。
立法實施分類監(jiān)管,依據(jù)不同的應用場景精準施策,防止技術(shù)濫用。
加快制定行業(yè)規(guī)范和技術(shù)標準,為反制技術(shù)奠定基礎(chǔ)。
AI技術(shù)是否安全可控、AI對個人信息和隱私權(quán)的威脅、如何防止利用AI技術(shù)實施詐騙等議題,成為當前社會熱議的焦點。而相比于技術(shù)的快速發(fā)展和公眾對風險的高度關(guān)注,人工智能領(lǐng)域的法律法規(guī)及政策標準還較為滯后,行業(yè)發(fā)展缺乏有效的引導和規(guī)制。
《新一代人工智能發(fā)展規(guī)劃》提出了我國人工智能發(fā)展的“三步走”戰(zhàn)略目標,建立人工智能技術(shù)標準、法律法規(guī)、倫理規(guī)范和政策體系在每一步中都是重要的組成部分。合成技術(shù)作為人工智能的一個分支,已經(jīng)進入相對成熟的階段。有效引導及適當規(guī)范對于促進行業(yè)長久發(fā)展和推動新技術(shù)與傳統(tǒng)產(chǎn)業(yè)融合具有迫切性,也有利于為人工智能其他細分領(lǐng)域政策及標準的制定提供借鑒。
王小川在提案中提到,目前針對人工智能合成技術(shù)做出規(guī)定的政策都較為籠統(tǒng),沒有依據(jù)不同場景實施分類指導,也并未提及對技術(shù)濫用的防偽、鑒別和反制。受此影響,不同產(chǎn)業(yè)在應用合成技術(shù)時,普遍存在現(xiàn)行規(guī)定不適用或應用風險不可控的問題,成為制約新技術(shù)與傳統(tǒng)產(chǎn)業(yè)融合發(fā)展的因素。AI合成技術(shù)雖然已經(jīng)歷一段時間的快速發(fā)展,有大量的市場參與者,但真正有效的、反映行業(yè)發(fā)展現(xiàn)狀的技術(shù)標準,還沒有確立。這導致對虛假合成音視頻的防偽鑒別,無章可循。對此,王小川建議:
一是通過立法實施分類監(jiān)管,依據(jù)不同的應用場景精準施策,防止技術(shù)濫用。建議通過立法形式,根據(jù)人工智能合成技術(shù)的使用場景、影響范圍、可能的危害程度,鼓勵各行業(yè)各領(lǐng)域主管部門加強研究、分類監(jiān)管,打擊非法利用,鼓勵開發(fā)鑒別防偽技術(shù),為人工智能技術(shù)的普及營造健康有利的環(huán)境。在傳媒、金融、教育、醫(yī)療等領(lǐng)域,注意防范特定風險,鼓勵利用合成技術(shù)增加供給、提高效率、豐富形態(tài),不斷提高監(jiān)管的精細化、精準化水平。
二是加快制定行業(yè)規(guī)范和技術(shù)標準。建議由行業(yè)協(xié)會和聯(lián)盟牽頭,廣泛聯(lián)合人工智能合成領(lǐng)域重點企業(yè)、領(lǐng)先企業(yè)共同制定可行的行業(yè)規(guī)范和技術(shù)標準,建立行業(yè)參與者廣泛認同的框架協(xié)議,為反制技術(shù)奠定基礎(chǔ)。例如,對于人工智能合成技術(shù)服務提供方,在服務器安全、API接口調(diào)用、數(shù)據(jù)安全管理等方面提出限制性要求;針對合成類視頻,通過技術(shù)標準,使用視頻水印等方式,限定技術(shù)的輸出渠道,做到非法視頻的可監(jiān)控、可追溯。
責任編輯:tzh
-
AI
+關(guān)注
關(guān)注
87文章
30763瀏覽量
268909 -
人工智能
+關(guān)注
關(guān)注
1791文章
47208瀏覽量
238294
發(fā)布評論請先 登錄
相關(guān)推薦
評論