為什么說AI無法從本質(zhì)上取代醫(yī)生？

8月30－31日，由中國高科技行業(yè)門戶OFweek維科網(wǎng)、高科會主辦，OFweek人工智能網(wǎng)、OFweek醫(yī)療科技網(wǎng)承辦的2018中國（上海）國際人工智能展覽會暨OFweek（第二屆）人工智能產(chǎn)業(yè)大會在上海跨國采購會展中心成功舉辦。

本次大會共匯集了人工智能領(lǐng)域的國際知名企業(yè)高層、行業(yè)資深專家、專家分析機(jī)構(gòu)等數(shù)千位精英，用全新視角透析行業(yè)動態(tài)，解讀人工智能領(lǐng)域本年度海內(nèi)外最值得關(guān)注的學(xué)術(shù)與研發(fā)進(jìn)展。

在8月31日分論壇：AI＋醫(yī)療專場上，上海交通大學(xué)生物醫(yī)學(xué)工程學(xué)院特別研究員、博導(dǎo)錢曉華為現(xiàn)場觀眾帶來了《醫(yī)學(xué)影像信息系統(tǒng)：輔助檢測、診斷和探索》主題演講，從人工智能技術(shù)在醫(yī)學(xué)領(lǐng)域的發(fā)展現(xiàn)狀、人工智能以及醫(yī)學(xué)影像信息系統(tǒng)結(jié)合應(yīng)用等多個角度進(jìn)行了具體探討。

上海交通大學(xué)生物醫(yī)學(xué)工程學(xué)院特別研究員、博導(dǎo)錢曉華

錢曉華從多個角度說明了目前人工智能在醫(yī)療領(lǐng)域的技術(shù)應(yīng)用和發(fā)展前景。錢曉華認(rèn)為，人工智能技術(shù)的發(fā)展極大推動了醫(yī)療產(chǎn)業(yè)進(jìn)步，但醫(yī)療人工智能在本質(zhì)上不可能取代醫(yī)生，只能應(yīng)用于醫(yī)療輔助領(lǐng)域。

演講中，錢曉華還提到了過去與美國醫(yī)生合作關(guān)于理解腦膠質(zhì)瘤手術(shù)后真假進(jìn)展問題的研究。在他看來，過去的醫(yī)生認(rèn)為人工智能技術(shù)發(fā)展尚未成熟，且對于人們來說人工智能就是個黑匣子，其難以理解的知識和特征阻礙了人們醫(yī)療科技的進(jìn)展。因此錢曉華的團(tuán)隊(duì)就項(xiàng)目中的深度學(xué)習(xí)環(huán)節(jié)進(jìn)行了特征可解釋性研究，將深度學(xué)習(xí)中的抽象特征解析成醫(yī)生能夠理解的知識和特征，醫(yī)生通過解釋過的知識和特征來判斷評估人工智能的診斷結(jié)果，以此推動人工智能技術(shù)在醫(yī)療領(lǐng)域的發(fā)展。

以下為錢曉華先生的現(xiàn)場演講內(nèi)容，OFweek醫(yī)療科技網(wǎng)作了不改變原意的整理和編輯：

接下來由我給大家做一個報(bào)告，題目是《醫(yī)學(xué)影像信息系統(tǒng)：輔助檢測、診斷和探索》。首先，我認(rèn)為醫(yī)療人工智能是不可能替代醫(yī)生的，只能應(yīng)用在輔助領(lǐng)域。我簡單做個自我介紹，我在去年加入上海交大生物醫(yī)學(xué)工程學(xué)院，組建了自己的醫(yī)學(xué)影像處理團(tuán)隊(duì)，目前初具規(guī)模，總共有七名研究生，合作的醫(yī)院也包括瑞金醫(yī)院、華山醫(yī)院六院、胸科醫(yī)院以及北京朝陽醫(yī)院。接下來我將從以下幾個方面展開今天的演講主題。

第一，是基于非增強(qiáng)型缺血性腦中風(fēng)的早期檢測系統(tǒng)，工作的目標(biāo)是對缺血性中風(fēng)的早期預(yù)警和量化診斷。在科研上或者在后期的診斷中可以用多種模態(tài)核磁共振以及各種方式進(jìn)行。但在早期檢查的過程中都是采用普通CT，比如一個病人去了急診科，不能未診斷就做核磁共振檢查，這個工作是基于臨床流程中的需求而進(jìn)行的。這個工作已經(jīng)展開了7、8年，目前的工作效果是當(dāng)這個疑似區(qū)和周邊區(qū)域亦對比度大于5個CT值時，該系統(tǒng)的判斷準(zhǔn)確率超過80％。

第二，介紹一下計(jì)算機(jī)輔助手術(shù)系統(tǒng)。以幼兒顱腦早閉癥為例，幼兒顱腦早閉癥的癥狀是孩子額頭部位像＂壽星＂一樣往上凸，這其實(shí)是幼兒的腦縫提前閉合，閉合之后會造成其顱內(nèi)壓力升高，影響幼兒智力發(fā)育。治療方案很直接，把融合的縫直接切掉，然后塞入兩個彈簧。這個彈簧需要多大的彈力？要由醫(yī)生的經(jīng)驗(yàn)來決定，而這份經(jīng)驗(yàn)則來自以往的小白鼠實(shí)驗(yàn)。在美國第一個發(fā)明這個手術(shù)的醫(yī)生曾經(jīng)和我們合作過。他非常迫切的想解決這個問題，希望根據(jù)每個孩子的實(shí)際情況來定制個性化彈簧。

大家可以看到，這是一個典型的圖像處理、機(jī)器學(xué)習(xí)加上優(yōu)選分析的手術(shù)規(guī)劃系統(tǒng)。整個系統(tǒng)的難點(diǎn)以及關(guān)鍵點(diǎn)在于對腦殼腦縫的分割和提取及特征描述，這個是本項(xiàng)目的最大的難點(diǎn)。人眼是很輕松能看到腦縫，但是計(jì)算機(jī)不懂，因?yàn)槟X縫本質(zhì)上不存在。現(xiàn)在的深度學(xué)習(xí)依然無法解決這個問題。

這是非常有意思的一個問題，深度學(xué)習(xí)很多時候需要龐大的樣本量。很多疑難雜癥本身樣本量就少，而你又急需把這個工作客觀化，讓更多人學(xué)習(xí)這個系統(tǒng)，那么就需要傳統(tǒng)的方式或者其他的方式來完成這項(xiàng)工作。我們提出了一個解決方案：以前沒有人進(jìn)行基于半球投影這項(xiàng)工作，如何將這個看似沒有的東西經(jīng)過投影并在一個封閉區(qū)域進(jìn)行分割和提取是最大的難點(diǎn)。而我們的解決方案在當(dāng)時獲得了美國衛(wèi)生部250萬美元的科研基金支持。

第三個工作，是關(guān)于理解腦膠質(zhì)瘤手術(shù)后真假進(jìn)展問題。腦膠質(zhì)瘤是一個惡性腫瘤，它的存活期只有18個月，關(guān)鍵問題在于該病癥容易復(fù)發(fā)。它的治療方式是先手術(shù)后放化療，放化療會帶來一個副作用即假復(fù)發(fā)。假復(fù)發(fā)在核磁共振上顯示的灰度增強(qiáng)區(qū)域會模擬真復(fù)發(fā)的變化形態(tài)。即使是專業(yè)的醫(yī)師也無法通過片子來判斷這個病人到底是真的腫瘤復(fù)發(fā)還是假復(fù)發(fā)。目前臨床上的一個標(biāo)準(zhǔn)是隨訪，隨訪通常需要花費(fèi)六個月以上的時間，根據(jù)它的形態(tài)變化來判斷病人情況。而腦膠質(zhì)瘤總共才活18個月，你花六個月以上時間去診斷，會嚴(yán)重影響到病人生活。

所以美國醫(yī)生就找到我們，希望縮短診斷時間。圍繞這個需求，我們展開以下三方面工作。第一個是基于圖像技術(shù)和人工智能技術(shù)來開發(fā)一個計(jì)算機(jī)輔助診斷系統(tǒng)，用以提高準(zhǔn)確率和診斷效率；第二個是通過圖像和基因結(jié)合的方式來確定生物標(biāo)記物，如此一來就能在手術(shù)完成后通過生物標(biāo)記物盡早預(yù)測病人病況發(fā)展趨勢；第三個是探討一個新的分期方式。前幾年我們自主開發(fā)了一個字典學(xué)習(xí)系統(tǒng)做分割，它的準(zhǔn)確率在80％至85％之間。這個系統(tǒng)關(guān)鍵不在于系統(tǒng)本身，而是字典學(xué)習(xí)的可理解化。當(dāng)時醫(yī)生認(rèn)為，人工智能技術(shù)再怎么先進(jìn)，對人們來說不過是個黑匣子，不理解它的特征就不會使用。所以我們對此進(jìn)行了特征可解釋性問題研究。這兩年我們通過深度學(xué)習(xí)的方式來做這個真假復(fù)發(fā)的診斷。圖中顯示的診斷系統(tǒng)準(zhǔn)確率已經(jīng)從80％多提高到90％以上。但這個我們?nèi)匀徊环判?。因?yàn)檫@個準(zhǔn)確率的本質(zhì)和內(nèi)在邏輯與醫(yī)生的邏輯是不吻合的。所以現(xiàn)在我們做的工作重點(diǎn)在于揭開人工智能黑匣子，看這些抽象特征是否真的符合醫(yī)生的標(biāo)準(zhǔn)，才能判斷該系統(tǒng)是否可靠。

第二個工作是通過圖像和基因結(jié)合的方式來確定一個生物標(biāo)記物。因?yàn)橛孟嗤闹委熓侄沃委煵煌牟∪藭@得不同的治療結(jié)果。我們認(rèn)為這是不同的病人的基因組導(dǎo)致，因此要結(jié)合圖像技術(shù)和基因技術(shù)對基因進(jìn)行標(biāo)記，手術(shù)完成后可以通過基因檢測來預(yù)測這個病人病況發(fā)展趨勢。

第三個工作，我們把一家醫(yī)院腦膠質(zhì)瘤真假復(fù)發(fā)臨床記錄進(jìn)行了統(tǒng)計(jì)分析，可以發(fā)現(xiàn)真假復(fù)發(fā)兩類病人經(jīng)過不同治療后生存時間沒有顯著差異。這說明兩個問題，第一點(diǎn)說明臨床上花六個月時間進(jìn)行診斷是耽誤治療進(jìn)度。第二點(diǎn)說明目前臨床診斷的標(biāo)準(zhǔn)是基于影像判斷，而影像的表象不一定真正能反映兩類病人的本質(zhì)差異。所以我們提出把圖像技術(shù)和基因技術(shù)結(jié)合起來，構(gòu)建兩年生存風(fēng)險(xiǎn)預(yù)測模型。根據(jù)該預(yù)測模型產(chǎn)生的兩年生存值，把病人區(qū)分為高低風(fēng)險(xiǎn)病患。這樣就可以知道臨床上的進(jìn)一步的治療診斷走向。

接下來我簡單的介紹一下其他工作。首先是具有可理解性的深度學(xué)習(xí)模型研究。一個調(diào)制好的深度學(xué)習(xí)系統(tǒng)可以提供良好的診斷預(yù)測以及高度準(zhǔn)確率，但其內(nèi)在邏輯是否真完全吻合臨床標(biāo)準(zhǔn)卻不一定。

如圖所示，在整個過程中ROC值能達(dá)到99％，但是我們經(jīng)過特征返還查看，發(fā)現(xiàn)這些抽象特征貢獻(xiàn)最大的區(qū)域基本不在主流部分，而是由噪聲特征貢獻(xiàn)了準(zhǔn)確率。所以說深度學(xué)習(xí)系統(tǒng)和深度學(xué)習(xí)系統(tǒng)是不完全吻合的，其可靠性主要來自于模型的可理解性，將深度學(xué)習(xí)中的抽象特征解析成醫(yī)生能夠理解的知識和特征，醫(yī)生通過解釋過知識和特征判斷評估黑匣子的診斷結(jié)果，這就是我們的工作重點(diǎn)。另外，我們還研發(fā)了基于影像和基因組學(xué)的腦轉(zhuǎn)移瘤治療方案決策系統(tǒng)、胰腺癌（早期）智能診斷／預(yù)測系統(tǒng)。以上便是我今天帶來的演講內(nèi)容，謝謝大家！