和大多數人憧憬人工智能技術發展會給人類社會帶來哪些福利有所不同，法學家們的思考出發點是：人工智能技術是一把“雙刃劍”，在造福人類的同時，也可能蘊藏著新的風險。

今天是上海書展的最后一天。下午四點，知名刑法學家、華東政法大學刑事法學研究院院長劉憲權攜新作《人工智能時代的刑法觀》而來，并作了同題的法學講座。

在學校上課時，這位明星法學教授總喜歡從提問開始、啟發學生思考。在今天的講座現場，劉憲權的講述同樣是從一則大眾關心的問題開始的：當人工智能機器人被作為犯罪工具、開始危害社會時，現有刑法是否能夠完全規制人工智能犯罪？

“有人直到目前為止仍然認為，用于實施犯罪的人工智能機器人，本質上就是一個作案工具，是一件器物，現行刑法完全可以對相關犯罪行為進行規制。但事實真是如此嗎，刑法的完全規制能夠適用多久？”結合近年在人工智能法學領域的研究，劉憲權給出了他的結論：按照機器人智能化程度，目前暫分為普通機器人、弱人工智能機器人和強人工智能機器人。而這個升級發展的過程，本質上是機器人“機器”的成分越來越少，“人”的成分越來越多的過程。

眾所周知，人是有意識和思維的。隨著技術的發展，未來的強人工智能機器人一旦有了“思維”，刑法這道“最后的防線”為了保護社會的安穩有序健康，就有必要作出相應的修訂。

“技術的發展和更迭往往超乎人類的想象。當風險轉變為現實危險后才考慮刑法規制問題，將使人類陷入被動的局面。”因此，針對一些學者所憂慮的法律的規制會束縛人工智能技術發展的手腳、遏制技術進步不同，劉憲權在他此次的新作中提出明確主張：法律就應該未雨綢繆。而刑法更應該秉持前瞻性的理念，未雨綢繆，確保人工智能技術在應用層面安全、可靠、可控。

即便是眼下，一些案件的發生，已經讓司法界感到棘手。

劉憲權舉了一個案例。2015年2月，英國首例達芬奇手術機器人心瓣修復手術進行。這原本是一場最尖端的醫療AI技術展示，沒想到卻成了一場鮮血四濺的慘案。當時，達芬奇手術機器人出現了“暴走”，不但把患者的心臟縫錯了位置，還戳穿了患者的大動脈，導致患者在手術后一周去世，手術以失敗告終。分析可知，雖然醫生在手術中存在醫療過錯行為，但醫療損害事故的發生并不完全是因為醫生的過失，醫療機器人在同樣存在“失誤”。這一案已經提示人們注意，醫療機器人因機器故障或算法失誤，就可能導致醫療損害，存在一定的刑事風險。

“就目前的人工智能技術發展水平而言，我國現行刑法規定可以規制大部分涉人工智能犯罪。但需要針對條文規定過于模糊的地方，通過司法解釋予以明確，或者調整部分犯罪的構成要件，將人工智能時代出現的新型行為方式予以包涵。”而劉憲權認為針對人工智能時代出現的特有新型犯罪，則需要踐行人工智能時代刑法的前瞻性理念，增設濫用人工智能產品罪和人工智能產品事故罪等罪名，實現技術飛速發展和刑法條文相對穩定性之間的平衡。

值得一提的是，劉憲權還大膽地在新作中提出了一個觀點：依據人工智能機器人自身的特點，增設能夠適用于人工智能機器人的刑罰處罰方式，無疑是人工智能時代規制涉人工智能犯罪的重要內容。

他建議，在對人工智能刑事立法具體條文的修訂和增設方面，應當修改侵害計算計信息系統類犯罪、交通肇事罪、危險駕駛罪等犯罪的主體和行為方式，使其適應人工智能技術的發展現狀和未來趨勢。同時，在刑法中針對人工智能機器人增設刪除數據、修改程序、永久銷毀等刑罰處罰的方式。

今年是劉憲權連續第四年在上海書展舉行新作簽署。每年上海書展都有法學研究領域的新作問世，劉憲權的“高產”和勤勉，也成為了學術界的佳話。

除了慣有的對待學術研究的認真與執著，在接受文匯報記者采訪時劉憲權直言，每年一本著作上新，學術“高產”的根本驅動力是他對新生事物的好奇。“像人工智能技術發展對法律和未來社會帶來的挑戰這類問題，是一個很大的時代課題，可以研究一輩子。”