NVIDIA 助力鷹瞳 Airdoc 眼科 AI 大模型建設(shè)與應(yīng)用

鷹瞳 Airdoc 是第一家在香港聯(lián)交所上市的人工智能醫(yī)療公司，是全球眼科人工智能領(lǐng)域的先行者，致力于為慢性病早期篩查和管理、兒童青少年近視防控等提供全面和多方位的人工智能解決方案。

為解決未滿足的醫(yī)療健康需求，鷹瞳 Airdoc 開發(fā)了人工智能視網(wǎng)膜影像相關(guān)的豐富產(chǎn)品管線，已廣泛應(yīng)用于社區(qū)診所、體檢中心、保險公司、視光中心及藥房等場所，為用戶提供疾病輔助診斷及健康風險評估。

NVIDIA 助力眼科 AI 實現(xiàn)

高效大模型訓(xùn)練和推理

眼科 AI 產(chǎn)品開發(fā)中需要大量的標注圖像數(shù)據(jù)和模型訓(xùn)練。采用 NVIDIA Tensor Core GPU，鷹瞳 Airdoc 實現(xiàn)了大規(guī)模醫(yī)療影像數(shù)據(jù)的模型訓(xùn)練。通過采用 MONAI Label，更快、更高效的實現(xiàn)了大量醫(yī)療影像數(shù)據(jù)的快速標注，不只實現(xiàn)了眼底影像的急速處理與報告生成，還大大提升了更復(fù)雜的三維眼科 OCT 影像的疾病分析與識別的速度。

圖 1. 基于 multi-label classification 的多病種識別網(wǎng)絡(luò)

產(chǎn)品部署時，每次 AI 的使用成本是一個重要的產(chǎn)品商業(yè)化考量。鷹瞳 Airdoc 采用云上 NVIDIA T4 GPU 作為推理平臺，相比應(yīng)用 CPU 推理，速度提升了 40 倍，降低成本同時提高了產(chǎn)品的可用性和普及性。此外，鷹瞳 Airdoc還采用 NVIDIA TensorRT 推理框架做推理計算，通過簡單的網(wǎng)絡(luò)模式轉(zhuǎn)換，將推理速度進一步翻倍，切換的過程非常的簡便。

鷹瞳 Airdoc 通過大模型模擬血管神經(jīng)變化，預(yù)測疾病演進的相關(guān)技術(shù)及產(chǎn)品已獲國家專利，實現(xiàn)了快速的疾病病灶衍化預(yù)測與展示。實際部署中，會有多個請求和多個應(yīng)用被調(diào)用。?其所使用 NVIDIA Triton 在調(diào)度多個 AI 應(yīng)用時，實現(xiàn)了高效的負載均衡，較傳統(tǒng)方案節(jié)省了計算費用。

圖 2. 通過大模型模擬血管神經(jīng)變化，預(yù)測疾病演進

采用 NVIDIA AI 擴展更多應(yīng)用場景

AI 大模型的浪潮正在改變所有的行業(yè)。鷹瞳 Airdoc 在建設(shè)眼科 AI 大模型的同時正在擴展更多的 AI 應(yīng)用場景，探索采用 NVIDIA 的多種 AI 技術(shù)堆棧開發(fā)更多眼科的醫(yī)療 AI 場景。

• 采用 NeMo 框架構(gòu)建垂直眼科領(lǐng)域的大模型和服務(wù)。并探索使用數(shù)字人音頻至視頻自動生成（Audio2Face）、對話模型 NeMo Framework 以及醫(yī)學(xué)影像 MONAI 技術(shù)的組合創(chuàng)新應(yīng)用。

• 采用 NVIDIA Jetson 嵌入式 AI 計算產(chǎn)品，探索創(chuàng)新的邊緣側(cè)和終端側(cè)醫(yī)療應(yīng)用的實現(xiàn)和加速方法。

點擊“閱讀原文”，即可參與 MONAI搶先體驗申請。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。掃描下方海報二維碼，立即注冊 GTC 大會。