「病人有甲癥狀，所以建議給特別處方一」、「病人肝臟顏色異常，請使用乙處置方式」，或許部分的醫(yī)療人工智能（AI）系統(tǒng)會給予類似的建議，然而，以醫(yī)師的角度來說，為什么要給這樣的處置？這樣的處置是如何判斷的？如果有錯誤，那應該有哪里些配套措施？希望協(xié)助產(chǎn)業(yè)提高對于AI信任的國立臺灣大學信息工程學系教授徐宏民表示，AI的黑盒子大家都想打開，但也坦言不太容易。然而，提升人類對于AI的信任度，絕對有助于AI在各場域更加流暢且融入流程地幫助人類。

　　可解釋的AI 系統(tǒng)提升人類信任進而可能提高采用數(shù)

　　團隊的「可解釋性人工智能」（XAI）模塊xCos，提供了人臉高辨識率以外，較為特別的還提供「條理」的解釋，讓開發(fā)者、各場域、各情境使用者都能明白AI產(chǎn)出結果的原因。「希望透過可解釋的特色，提升人類使用AI時的信任度，進而促進產(chǎn)業(yè)正向循環(huán)。」

　　徐宏民分享，如果說，今天計算機系統(tǒng)顯示，「你感染了COVID-19（新冠肺炎）」那醫(yī)師也會很好奇，計算機系統(tǒng)到底是如何得知？依照哪里些數(shù)據(jù)判斷出來確診？在知其然也知其所以然的力量驅使之下，2018年與團隊開始構思這套可解釋性的AI，目前在各大領域都有合作應用，在醫(yī)學領域也與臺大醫(yī)院合作內科肝臟相關疾病，看看怎么樣的細胞排列組合，對應著怎么樣的疾病。不僅可以幫助醫(yī)師處理數(shù)量龐大的數(shù)據(jù)，也可以讓精準醫(yī)療再上層樓。

　　不必左右為難高效能與高解釋性同時推升

　　一般來說，效能（正確率）與可解釋性呈現(xiàn)負相關的關系，也就是說，可解釋性越高，效能就越差；效能越高，可解釋性就越低。透過大量參數(shù)成長的深度學系模型就屬于后者。徐宏民分享多年的數(shù)據(jù)分析經(jīng)驗說道，10多年前的數(shù)據(jù)分析，一般來說參數(shù)約莫只有幾百個，幾千個參數(shù)就已經(jīng)算是很多的了；然而，以自然語言處理（NLP）為例，數(shù)千萬個、數(shù)十億個參數(shù)都開始成為新常態(tài)，也因此，如何在如此的多參數(shù)、高效能的新資料分析世界當中，持續(xù)提升可解釋性，也就是學界與產(chǎn)業(yè)都相當注重的發(fā)展。

　　深度學習等類神經(jīng)網(wǎng)絡，快速且大量消化資料后，計算機會自己訂規(guī)則，藉由千萬條件產(chǎn)出更高精準度的答案，但「怎么來的？」始終是人類的疑惑，推論過程與原理的了解對于開發(fā)者與使用者都相當重要，徐宏民舉例說明，在金融理財方面，若是系統(tǒng)建議使用者「要購買某檔基金」，使用者可能狐疑不解，然而，若是與使用者說， 「因為你現(xiàn)在30歲，并且有想要結婚的男朋友，因此在3年內可能會生1~2個小孩，而未來3年內這檔基金所追蹤的投資標的，可能可以幫你在未來5~ 10年，創(chuàng)造每年約莫3~5%的育兒成長教育基金。」試問，這樣「具有解釋性」的AI分析結果，相對只是告知「購買某檔基金」，是否更能體現(xiàn)人類顧問的貼心與暖心「可信任價值」？

　　希望持續(xù)探詢與解釋AI決策過程關鍵，提升AI決策透明度與解析解構的徐宏民認為，AI等智能技術，已經(jīng)且會加速滲入各產(chǎn)業(yè)，也相當看好與期待未來取得開發(fā)者、使用人員、環(huán)境、產(chǎn)業(yè)的信任。「不只是沖正確率，同時可信度也相當重要。」