基于FPGA異構加速的OCR識別技術解析

OCR在通用文字識別等場景下有廣泛應用，基于FPGA異構加速的OCR識別相比CPU/GPU實現具有延時小、成本低的優(yōu)勢。我們設計了多FPGA芯片協(xié)同的異構加速架構，能快速適配業(yè)務OCR模型變化，檢測識別整體性能為GPU P4 130%，處理延時僅為P4的1/10，CPU的1/30。

1.文字識別技術- OCR

OCR技術，通俗來講就是從圖像中檢測并識別字符的一種方法，在證通用文字識別、書籍電子化、自動信息采集、證照類識別等應用場景中得到了廣泛應用。通用場景的OCR因此通用場景下的OCR技術一直都是人工智能領域挑戰(zhàn)性極強的研究領域，不需要針對特殊場景進行定制，可以識別任意場景圖片中的文字。

通用OCR技術包含兩大關鍵技術：文本檢測和文字識別。檢測模型的作用簡單來說就是確定圖片中哪里有字，并把有字的區(qū)域框出來。文字識別是將文本檢測box作為輸入，識別出其中的字符。

近年來深度學習逐漸被應用到音頻、視頻以及自然語言理解等時序數據建模的領域。通過深度學習的端到端學習提升Sequence Learning的效果已經成為當前研究的熱點。基本思路是CNN與RNN結合：CNN被用于提取有表征能力的圖像特征，將RNN的序列化特性引入到文本檢測，增加了文本檢測候選區(qū)域的上下文信息，可以有效地提升文本檢測任務的性能。CNN+RNN的混合網絡將文本串識別領域的效果推到了一個新的高度。

?

1：CRNN網絡結構

*上圖引用自《An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to Scene Text Recognition》。

我們以目前應用十分廣泛的CRNN模型為例，它是DCNN和RNN的組合，可以直接從序列標簽學習，不需要詳細的標注；比標準DCNN模型包含的參數要少很多。同時CRNN在圖像特征和識別內容序列之間嚴格保序，擅長識別字分割比較困難的文字序列。

架構包括三部分：
1) 卷積層，從輸入圖像中提取特征序列，將圖像進行空間上的保序壓縮，相當于沿水平方向形成若干切片，每個切片對應一個特征向量；

2) 循環(huán)層，預測每一幀的標簽分布；采用雙層雙向的LSTM，進一步學習上下文特征，據此得到切片對應的字符類別。

3) Transcription層，利用CTC和前向后向算法求解最優(yōu)的label序列。

2. OCR加速架構

依賴于FPGA的可編程性、高性能以及高通信帶寬，我們設計了一個多FPGA芯片協(xié)同的異構加速架構。單一芯片針對一種類型的模型進行深度定制優(yōu)化，不同芯片之間通過負載均衡以及流水化來完成整個混合模型的加速過程。

?

圖2：OCR加速硬件架構

FPGA 0配置為通用的CNN加速架構

FPGA 1配置為通用的LSTM加速架構

對于計算量較小的FC使用CPU進行計算，保持模型靈活性

FPGA與服務器CPU通過PCIe Gen3進行數據通信，負載均衡由CPU進行控制

FPGA間通過AURORA輕量級協(xié)議進行數據交換，數據交換延時ns級，類似不同板卡間內存共享

平臺后續(xù)升級可支持服務器間的多任務并行/流水調度

為特定的深度學習模型進行底層深度架構優(yōu)化，通過架構層面上的優(yōu)化來充分發(fā)揮異構加速器件的性能，達到最大的計算收益。