試圖解構(gòu)AI思維邏輯臺大徐宏民力贊可信任的AI

　　「病人有甲癥狀，所以建議給特別處方一」、「病人肝臟顏色異常，請使用乙處置方式」，或許部分的醫(yī)療人工智能（AI）系統(tǒng)會給予類似的建議，然而，以醫(yī)師的角度來說，為什么要給這樣的處置？這樣的處置是如何判斷的？如果有錯誤，那應(yīng)該有哪里些配套措施？希望協(xié)助產(chǎn)業(yè)提高對于AI信任的國立臺灣大學(xué)信息工程學(xué)系教授徐宏民表示，AI的黑盒子大家都想打開，但也坦言不太容易。然而，提升人類對于AI的信任度，絕對有助于AI在各場域更加流暢且融入流程地幫助人類。

　　可解釋的AI 系統(tǒng)提升人類信任進(jìn)而可能提高采用數(shù)

　　團(tuán)隊的「可解釋性人工智能」（XAI）模塊xCos，提供了人臉高辨識率以外，較為特別的還提供「條理」的解釋，讓開發(fā)者、各場域、各情境使用者都能明白AI產(chǎn)出結(jié)果的原因?！赶Ｍ高^可解釋的特色，提升人類使用AI時的信任度，進(jìn)而促進(jìn)產(chǎn)業(yè)正向循環(huán)?！?/p>

　　徐宏民分享，如果說，今天計算機(jī)系統(tǒng)顯示，「你感染了COVID-19（新冠肺炎）」那醫(yī)師也會很好奇，計算機(jī)系統(tǒng)到底是如何得知？依照哪里些數(shù)據(jù)判斷出來確診？在知其然也知其所以然的力量驅(qū)使之下，2018年與團(tuán)隊開始構(gòu)思這套可解釋性的AI，目前在各大領(lǐng)域都有合作應(yīng)用，在醫(yī)學(xué)領(lǐng)域也與臺大醫(yī)院合作內(nèi)科肝臟相關(guān)疾病，看看怎么樣的細(xì)胞排列組合，對應(yīng)著怎么樣的疾病。不僅可以幫助醫(yī)師處理數(shù)量龐大的數(shù)據(jù)，也可以讓精準(zhǔn)醫(yī)療再上層樓。

　　不必左右為難高效能與高解釋性同時推升

　　一般來說，效能（正確率）與可解釋性呈現(xiàn)負(fù)相關(guān)的關(guān)系，也就是說，可解釋性越高，效能就越差；效能越高，可解釋性就越低。透過大量參數(shù)成長的深度學(xué)系模型就屬于后者。徐宏民分享多年的數(shù)據(jù)分析經(jīng)驗說道，10多年前的數(shù)據(jù)分析，一般來說參數(shù)約莫只有幾百個，幾千個參數(shù)就已經(jīng)算是很多的了；然而，以自然語言處理（NLP）為例，數(shù)千萬個、數(shù)十億個參數(shù)都開始成為新常態(tài)，也因此，如何在如此的多參數(shù)、高效能的新資料分析世界當(dāng)中，持續(xù)提升可解釋性，也就是學(xué)界與產(chǎn)業(yè)都相當(dāng)注重的發(fā)展。

　　深度學(xué)習(xí)等類神經(jīng)網(wǎng)絡(luò)，快速且大量消化資料后，計算機(jī)會自己訂規(guī)則，藉由千萬條件產(chǎn)出更高精準(zhǔn)度的答案，但「怎么來的？」始終是人類的疑惑，推論過程與原理的了解對于開發(fā)者與使用者都相當(dāng)重要，徐宏民舉例說明，在金融理財方面，若是系統(tǒng)建議使用者「要購買某檔基金」，使用者可能狐疑不解，然而，若是與使用者說， 「因為你現(xiàn)在30歲，并且有想要結(jié)婚的男朋友，因此在3年內(nèi)可能會生1~2個小孩，而未來3年內(nèi)這檔基金所追蹤的投資標(biāo)的，可能可以幫你在未來5~ 10年，創(chuàng)造每年約莫3~5%的育兒成長教育基金。」試問，這樣「具有解釋性」的AI分析結(jié)果，相對只是告知「購買某檔基金」，是否更能體現(xiàn)人類顧問的貼心與暖心「可信任價值」？

　　希望持續(xù)探詢與解釋AI決策過程關(guān)鍵，提升AI決策透明度與解析解構(gòu)的徐宏民認(rèn)為，AI等智能技術(shù)，已經(jīng)且會加速滲入各產(chǎn)業(yè)，也相當(dāng)看好與期待未來取得開發(fā)者、使用人員、環(huán)境、產(chǎn)業(yè)的信任?！覆恢皇菦_正確率，同時可信度也相當(dāng)重要?！?/p>