NVIDIA GPU助力譯圖智訊部署高效AI計(jì)算處理平臺(tái)

北京譯圖智訊是一家 OCR 識(shí)別軟件廠商，致力于為客戶構(gòu)建一站式 OCR 識(shí)別解決方案，專注于計(jì)算機(jī)視覺、圖像識(shí)別、深度學(xué)習(xí)等 AI 技術(shù)的研發(fā)，助力企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型，降本增效。

圖像處理和 OCR 識(shí)別是運(yùn)算密集型技術(shù)，對(duì)算力要求較高，借助于NVIDIA A100 Tensor Core GPU及A10 Tensor Core GPU，譯圖智訊構(gòu)建了更加高效的硬件訓(xùn)練平臺(tái)，縮短了 OCR 模型訓(xùn)練、預(yù)測(cè)的處理周期，進(jìn)一步提升了 OCR 識(shí)別速度與精度。

OCR 過程包括圖像分類、目標(biāo)檢測(cè)、圖像分割、OCR 識(shí)別、NLP 提取等模型訓(xùn)練任務(wù)，其中每一個(gè)模型都需要對(duì)大量樣本進(jìn)行標(biāo)注訓(xùn)練，所需數(shù)據(jù)量龐大且復(fù)雜，整個(gè)建模過程對(duì)服務(wù)器算力、GPU 顯存都提出了更高的要求。

譯圖智訊以往訓(xùn)練服務(wù)器采用的是 CPU + NVIDIA T4 GPU 多卡的硬件方案，其運(yùn)行速度遠(yuǎn)遠(yuǎn)跟不上復(fù)雜模型建設(shè)的需求，實(shí)際運(yùn)算性能大打折扣。NVIDIA A100 及 A10 GPU 配備了具有更高精度的第三代 Tensor Core 核心，可實(shí)現(xiàn)成千上萬個(gè) GPU 集群的高效擴(kuò)展。A10 相較于 T4，可提供高達(dá) 2.5 倍的虛擬工作站性能及推理性能，結(jié)合 A100 跨工作負(fù)載的高強(qiáng)計(jì)算力，相比上一個(gè)平臺(tái)，譯圖智訊實(shí)現(xiàn)了最高 20 倍的 AI 性能，以及 3 倍的 AI 訓(xùn)練速度，可快速完成數(shù)據(jù)建模。

借助 NVIDIA A100，滿足了需要更大顯存的訓(xùn)練任務(wù)。以 OCR 文本識(shí)別訓(xùn)練為例，需要對(duì)數(shù)千萬的圖像數(shù)據(jù)進(jìn)行訓(xùn)練，采用基于 T4 構(gòu)建的服務(wù)器時(shí)，訓(xùn)練周期需要 7 天，依托 A100，訓(xùn)練周期可縮減至 3-4 天，極大地提升了模型和產(chǎn)品的迭代周期；同樣在模型預(yù)測(cè)階段，以調(diào)用頻次最高的身份證識(shí)別為例，在以 T4 構(gòu)建的服務(wù)器中，OCR 識(shí)別一次需要 300ms，1 秒鐘可識(shí)別 3 張身份證，依托 NVIDIA A100 服務(wù)器，每一次可以縮短至 100-200ms 左右，1 秒鐘可識(shí)別 5-6 張身份證，單位時(shí)間處理時(shí)間顯著降低，并發(fā)能力增加，給產(chǎn)品研發(fā)速度帶來質(zhì)的提速。

通過 NVIDIA A100 及 A10 強(qiáng)大的算力服務(wù)器支持，能夠并行運(yùn)行多個(gè)計(jì)算機(jī)視覺算法架構(gòu)，在節(jié)省運(yùn)行顯存開銷的同時(shí)，帶來了更快的神經(jīng)網(wǎng)絡(luò)訓(xùn)練及推理效率，顯著加速了 OCR 識(shí)別中對(duì)圖像數(shù)據(jù)處理的時(shí)間。

譯圖智訊產(chǎn)品總監(jiān)劉偉表示“模型訓(xùn)練在 NVIDIA GPU 上的運(yùn)行速度更快，極大優(yōu)化了圖像處理流程，使研發(fā)人員能夠更高效地投身到圖像標(biāo)注、訓(xùn)練、分析、文字識(shí)別的過程中。隨著 OCR 識(shí)別技術(shù)的應(yīng)用越來越廣泛，譯圖智訊將更高效地利用 AI，借助NVIDIA GPU AI計(jì)算平臺(tái)，提升 OCR 識(shí)別的速度與精度，使 OCR 在各個(gè)場(chǎng)景都達(dá)到毫秒級(jí)的運(yùn)行速度，專注更智能、高效、安全穩(wěn)定的 OCR 整體識(shí)別解決方案，助力 OCR 識(shí)別技術(shù)創(chuàng)新，加速社會(huì)信息化進(jìn)程。”

本案例中，NVIDIA 優(yōu)選級(jí)合作伙伴北京安聯(lián)通助力譯圖智訊部署了高效 AI 計(jì)算處理平臺(tái)，同時(shí)幫助譯圖網(wǎng)絡(luò)數(shù)據(jù)中心的設(shè)備進(jìn)行升級(jí)改造，部分網(wǎng)絡(luò)設(shè)備換成全新的 NVIDIA 網(wǎng)絡(luò)產(chǎn)品，使網(wǎng)絡(luò)傳輸速度比原來的提高數(shù) 10 倍，給客戶體驗(yàn)感更好，識(shí)別速度更快。