紐約大學(xué)與 NVIDIA 攜手開(kāi)發(fā)能夠預(yù)測(cè)患者再入院概率的大型語(yǔ)言模型

刊登在《自然》（Nature）上的 AI 模型 NYUTron 已被部署到紐約大學(xué)朗格尼健康中心。

從醫(yī)院出院對(duì)病人來(lái)說(shuō)是一座重要的里程碑，但有時(shí)這并不代表著他們已完全康復(fù)。在美國(guó)，有近 15% 的住院病人在首次出院后 30 天內(nèi)再次入院，并且往往伴隨著病情惡化與對(duì)患者及院方來(lái)說(shuō)都更高的住院費(fèi)用。

紐約大學(xué)學(xué)術(shù)醫(yī)療中心——紐約大學(xué)朗格尼健康中心（NYU Langone Health）的研究人員與 NVIDIA 專家攜手開(kāi)發(fā)了一個(gè)可預(yù)測(cè)病人 30 天內(nèi)再入院風(fēng)險(xiǎn)以及其他臨床結(jié)果的大型語(yǔ)言模型（LLM）。

這個(gè)刊登在科學(xué)期刊《自然》（Nature）上的 NYUTron 模型被部署在該醫(yī)療系統(tǒng)的六座住院樓中。它能夠?yàn)獒t(yī)生提供 AI 所驅(qū)動(dòng)的洞察，幫助他們識(shí)別需要通過(guò)臨床干預(yù)的病人，以減少患者再入院概率。

紐約大學(xué)格羅斯曼醫(yī)學(xué)院放射學(xué)和神經(jīng)外科助理教授、NYUTron 的主要合作者 Eric Oermann 博士表示：“當(dāng)你讓病人出院時(shí)，肯定不希望他們需要再回來(lái)，或者其實(shí)在當(dāng)時(shí)就應(yīng)該延長(zhǎng)病人的住院時(shí)間。借助 AI 模型的分析，我們很快就能幫助臨床醫(yī)生預(yù)防或解決那些使病人面臨更高再入院風(fēng)險(xiǎn)的情況?！?/p>

到目前為止，該模型已被應(yīng)用于紐約大學(xué)醫(yī)療系統(tǒng)中的 5 萬(wàn)多名出院患者。它會(huì)通過(guò)電子郵件告知醫(yī)生再入院風(fēng)險(xiǎn)的預(yù)測(cè)。Oermann 的團(tuán)隊(duì)接下來(lái)正計(jì)劃通過(guò)一項(xiàng)臨床試驗(yàn)，測(cè)試依據(jù) NYUTron 的分析所采取的干預(yù)措施是否能夠降低再入院率。

應(yīng)對(duì)短期再入院等風(fēng)險(xiǎn)

美國(guó)政府追蹤 30 日再入院率并以此作為醫(yī)院的護(hù)理質(zhì)量指標(biāo)。再入院率高的醫(yī)療機(jī)構(gòu)會(huì)被處以罰款，這項(xiàng)制度能夠激勵(lì)醫(yī)院改進(jìn)其出院流程。

新出院的病人可能會(huì)因?yàn)楦腥?、過(guò)度使用抗生素、過(guò)早移除手術(shù)引流管等原因而需要再入院。如果這些風(fēng)險(xiǎn)因素能夠被更早地發(fā)現(xiàn)，醫(yī)生就可以通過(guò)調(diào)整治療計(jì)劃或延長(zhǎng)病人留院觀察時(shí)間來(lái)進(jìn)行干預(yù)。

Oermann 表示：“雖然自 20 世紀(jì) 80 年代以來(lái)就有了預(yù)測(cè)病人再入院的計(jì)算模型，但我們把它看作一項(xiàng)需要衛(wèi)生系統(tǒng)規(guī)模臨床文本語(yǔ)料庫(kù)的自然語(yǔ)言處理任務(wù)。我們使用電子健康記錄的非結(jié)構(gòu)化數(shù)據(jù)訓(xùn)練我們的 LLM，檢查它是否能夠捕捉到人們之前沒(méi)有考慮過(guò)的洞察。”

NYUTron 使用紐約大學(xué)朗格尼健康中心的 10 年健康記錄進(jìn)行了預(yù)訓(xùn)練。這些記錄由近 40 萬(wàn)名病人超過(guò) 40 億字的臨床筆記組成。相比最先進(jìn)的機(jī)器學(xué)習(xí)模型，該模型預(yù)測(cè)再入院的準(zhǔn)確率提高了 10% 以上。

一旦該 LLM 為 30 天再入院的初始用例進(jìn)行了訓(xùn)練，該團(tuán)隊(duì)就能在一周左右的時(shí)間里推出了其他四種預(yù)測(cè)算法，包括預(yù)測(cè)病人的住院時(shí)間、院內(nèi)死亡的可能性以及病人保險(xiǎn)理賠被拒的幾率。

Oermann 表示：“經(jīng)營(yíng)一家醫(yī)院在某些方面就像管理一家酒店。能夠幫助醫(yī)院更高效運(yùn)營(yíng)的洞察意味著醫(yī)院能夠騰出更多床位并為更多病人提供更高質(zhì)量的照護(hù)。”

從訓(xùn)練到部署一個(gè) LLM

NYUTron 是一個(gè)擁有數(shù)億參數(shù)的 LLM。它在一個(gè)由NVIDIA A100 Tensor Core GPU 組成的大型集群上使用 NVIDIA NeMo Megatron 框架訓(xùn)練而成。

Oermann 表示：“如今，大部分關(guān)于語(yǔ)言模型的討論都圍繞著具有數(shù)十億參數(shù)的超大型通用模型，這些模型使用數(shù)百乃至數(shù)千個(gè) GPU 在混亂的數(shù)據(jù)集上訓(xùn)練而成。我們反其道而行之，使用在高度精煉的數(shù)據(jù)上訓(xùn)練的中等規(guī)模的模型來(lái)完成特定醫(yī)療任務(wù)。”

為了優(yōu)化模型以便在現(xiàn)實(shí)醫(yī)院進(jìn)行推理，該團(tuán)隊(duì)開(kāi)發(fā)了一個(gè)修改版的NVIDIA Triton 開(kāi)源軟件，以便利用NVIDIA TensorRT 軟件開(kāi)發(fā)工具套件簡(jiǎn)化 AI 模型部署。

Oermann 表示：“像這樣的模型必須要高效運(yùn)行才能被部署到實(shí)時(shí)醫(yī)療環(huán)境中。Triton 提供了你在一個(gè)推理框架中想要的一切，讓我們的模型能夠飛速運(yùn)行?！?/p>

Oermann 的團(tuán)隊(duì)發(fā)現(xiàn)，在對(duì)他們的 LLM 進(jìn)行預(yù)訓(xùn)練后，只需使用特定醫(yī)院的數(shù)據(jù)在現(xiàn)場(chǎng)進(jìn)行微調(diào)就能大幅提高準(zhǔn)確率，這個(gè)特點(diǎn)可以幫助其他醫(yī)療機(jī)構(gòu)部署類似的模型。

他表示：“并不是所有醫(yī)院都擁有完全自主訓(xùn)練一個(gè)大型語(yǔ)言模型所需要的資源，但他們可以采用像 NYUTron 這樣的預(yù)訓(xùn)練模型，然后通過(guò)云端的 GPU 使用少量本地?cái)?shù)據(jù)樣本對(duì)模型進(jìn)行微調(diào)。這對(duì)于許多醫(yī)療機(jī)構(gòu)來(lái)說(shuō)都是可以做到的?！?/p>

如要進(jìn)一步了解 NYUTron，請(qǐng)閱讀《自然》期刊中的論文。點(diǎn)擊“閱讀原文”，點(diǎn)播觀看 NVIDIA 與紐約大學(xué)的相關(guān)講座。