基于Kaldi的語(yǔ)音識(shí)別引擎的架構(gòu)設(shè)計(jì)方案

1

概述

語(yǔ)音識(shí)別技術(shù)，是將語(yǔ)音信號(hào)轉(zhuǎn)換為文本內(nèi)容的技術(shù)。目前比較流行的語(yǔ)音識(shí)別技術(shù)主要有兩種。一種是基于Kaldi的傳統(tǒng)語(yǔ)音識(shí)別技術(shù)，另一種是目前流行的基于深度學(xué)習(xí)模型的端到端語(yǔ)音識(shí)別技術(shù)。Kaldi是一種大而全的語(yǔ)音識(shí)別處理框架，集成了數(shù)據(jù)預(yù)處理、特征提取、聲學(xué)模型建模、語(yǔ)言模型建模、解碼等，識(shí)別效果上能夠滿(mǎn)足大多數(shù)的語(yǔ)音識(shí)別場(chǎng)景。但是Kaldi是自成一體的框架，沒(méi)有現(xiàn)在流行的pytorch、tensorflow框架的支持，需要開(kāi)發(fā)者自行開(kāi)發(fā)能應(yīng)用到生產(chǎn)環(huán)境中的服務(wù)?；谏疃葘W(xué)習(xí)模型的端到端語(yǔ)音識(shí)別框架是指將語(yǔ)音信號(hào)直接輸入到深度學(xué)習(xí)模型中，通過(guò)端到端的方式進(jìn)行語(yǔ)音識(shí)別，無(wú)需使用傳統(tǒng)的聲學(xué)模型和語(yǔ)言模型，常見(jiàn)的基于深度學(xué)習(xí)的端到端語(yǔ)音識(shí)別框架有很多，比如EspNet，WeNet等，這類(lèi)語(yǔ)音識(shí)別框架有更通用的模型訓(xùn)練和部署框架支持，有著更好的識(shí)別性能和識(shí)別效果。

58自研語(yǔ)音識(shí)別引擎，最初是基于Kaldi框架進(jìn)行開(kāi)發(fā)，在自研初期上線了架構(gòu)1.0版本，后續(xù)以降低機(jī)器資源、提升資源利用率、優(yōu)化性能為目標(biāo)進(jìn)行了升級(jí)重構(gòu)，上線了架構(gòu)2.0版本。本文將介紹基于Kaldi的語(yǔ)音識(shí)別引擎的架構(gòu)設(shè)計(jì)，介紹從架構(gòu)1.0到2.0版本的優(yōu)化歷程。首先介紹業(yè)務(wù)背景，然后介紹Kaldi語(yǔ)音解碼的優(yōu)化，以及后端服務(wù)的各種優(yōu)化，最后是優(yōu)化取得的效果。

我們也在持續(xù)探索基于深度學(xué)習(xí)模型的端到端語(yǔ)音識(shí)別，嘗試了ESPNet，WeNet等流行的端到端框架。在2021年12月引入了端到端WeNet語(yǔ)音識(shí)別(由出門(mén)問(wèn)問(wèn)和西北工業(yè)大學(xué)于2021年1月開(kāi)源)，經(jīng)過(guò)持續(xù)的優(yōu)化，WeNet解碼服務(wù)在效果和性能上都超過(guò)了Kadli解碼，在2022年8月份，我們?cè)诰€上全量替換了Kaldi語(yǔ)音解碼服務(wù)（WeNet端到端語(yǔ)音識(shí)別技術(shù)在58同城的大規(guī)模落地）。

2

背景

58同城是國(guó)內(nèi)領(lǐng)先的生活分類(lèi)信息網(wǎng)站平臺(tái)，涉及業(yè)務(wù)有招聘、房產(chǎn)、車(chē)、本地生活服務(wù)（黃頁(yè)）等。語(yǔ)音是平臺(tái)上商家、用戶(hù)、銷(xiāo)售、客服之間溝通的主要媒介。

58平臺(tái)上的B端商家和C端用戶(hù)會(huì)使用電話(huà)、微聊進(jìn)行語(yǔ)音溝通，同時(shí)58呼叫中心支撐著數(shù)千名銷(xiāo)售、客服人員工作，年通話(huà)時(shí)長(zhǎng)數(shù)百萬(wàn)小時(shí)。這些場(chǎng)景下產(chǎn)生了海量的語(yǔ)音數(shù)據(jù)，這些語(yǔ)音數(shù)據(jù)經(jīng)過(guò)語(yǔ)音識(shí)別轉(zhuǎn)為文字之后，對(duì)于語(yǔ)音質(zhì)檢、信息治理和用戶(hù)畫(huà)像等任務(wù)有巨大的價(jià)值。此外，AI Lab團(tuán)隊(duì)研發(fā)了可以提高人效的語(yǔ)音外呼機(jī)器人，典型應(yīng)用為銷(xiāo)售機(jī)器人“黃頁(yè)銷(xiāo)售智能外呼助手”和面試機(jī)器人“神奇面試間”。

3

架構(gòu)1.0

3.1 架構(gòu)1.0的背景

我們從2019年12月開(kāi)始語(yǔ)音識(shí)別引擎的自研工作(3人半年打造語(yǔ)音識(shí)別引擎——58同城語(yǔ)音識(shí)別自研之路)，業(yè)務(wù)方采購(gòu)的是第三方的語(yǔ)音識(shí)別引擎，采購(gòu)費(fèi)用昂貴，采購(gòu)合同即將在半年后到期。最終提前一個(gè)月上線切換到自研語(yǔ)音識(shí)別引擎。

語(yǔ)音識(shí)別系統(tǒng)通用處理流程是：客戶(hù)端發(fā)送音頻文件或者音頻流，服務(wù)端在接收后進(jìn)行格式、采樣率等轉(zhuǎn)換，以及聲道分離、說(shuō)話(huà)分離，轉(zhuǎn)換為多個(gè)人聲片段，再由解碼器對(duì)人聲片段進(jìn)行解碼，輸出轉(zhuǎn)寫(xiě)結(jié)果。一個(gè)語(yǔ)音識(shí)別系統(tǒng)的重點(diǎn)和關(guān)鍵點(diǎn)就是在盡量低資源(CPU/GPU)占用的情況下，能較大吞吐、較低延遲、較可靠的處理海量的音頻輸入，并保持較高的轉(zhuǎn)寫(xiě)準(zhǔn)確率。

架構(gòu)1.0系統(tǒng)，基于語(yǔ)音識(shí)別系統(tǒng)的通用流程建立，服務(wù)主要包括網(wǎng)關(guān)接入服務(wù)、音頻解析服務(wù)、以及基于Kaldi的語(yǔ)音解碼內(nèi)核服務(wù)、靜音檢測(cè)和說(shuō)話(huà)人服務(wù)、后處理服務(wù)等。各服務(wù)的主要功能：

網(wǎng)關(guān)接入服務(wù)，負(fù)責(zé)業(yè)務(wù)接入分發(fā)、鑒權(quán)和檢測(cè)等功能。

音頻解析服務(wù)，負(fù)責(zé)將音頻做轉(zhuǎn)換處理。語(yǔ)音解碼內(nèi)核服務(wù)負(fù)責(zé)將音頻解碼為文字。

靜音檢測(cè)和說(shuō)話(huà)人服務(wù)，負(fù)責(zé)將人聲片段分離出來(lái)，用于后續(xù)解碼。

后處理服務(wù)，負(fù)責(zé)將轉(zhuǎn)寫(xiě)后文字添加標(biāo)點(diǎn)等處理任務(wù)。

語(yǔ)音解碼內(nèi)核服務(wù)，負(fù)責(zé)將音頻片段轉(zhuǎn)寫(xiě)為文本。

3.2 架構(gòu)1.0的不足

架構(gòu)1.0系統(tǒng)是在時(shí)間緊、任務(wù)重的情況下，滿(mǎn)足了快速上線的需要，但也存在以下不足：

占用機(jī)器資源太高

機(jī)器資源利用率不均衡

系統(tǒng)整體耗時(shí)高

可靠性和擴(kuò)展性不足

重構(gòu)的目標(biāo)主要是以下三個(gè)：

降低機(jī)器資源，節(jié)省成本

提高機(jī)器資源利用率

降低系統(tǒng)耗時(shí)、提升可靠性

4

架構(gòu)2.0

針對(duì)架構(gòu)1.0的不足，主要在以下兩個(gè)大方向上進(jìn)行優(yōu)化：

1. 針對(duì)語(yǔ)音內(nèi)核解碼服務(wù)中，Kaldi并發(fā)解碼支持不足、性能差的問(wèn)題，進(jìn)行了服務(wù)性能優(yōu)化

2. 針對(duì)后端應(yīng)用服務(wù)中的不足，進(jìn)行了服務(wù)拆分和一系列的性能優(yōu)化。

架構(gòu)2.0對(duì)1.0架構(gòu)中部分服務(wù)功能耦合的部分進(jìn)行了拆分、對(duì)網(wǎng)關(guān)接入服務(wù)、音頻解析、解碼內(nèi)核服務(wù)做了重構(gòu)升級(jí)。

架構(gòu)2.0的服務(wù)包括網(wǎng)關(guān)接入服務(wù)、消息調(diào)度服務(wù)、數(shù)據(jù)上報(bào)服務(wù)、音頻解析服務(wù)、消息補(bǔ)償服務(wù)、靜音檢測(cè)服務(wù)、說(shuō)話(huà)人分離服務(wù)、以及語(yǔ)音解碼內(nèi)核服務(wù)等。其中新增了消息調(diào)度服務(wù)、數(shù)據(jù)上報(bào)服務(wù)、消息補(bǔ)償服務(wù)。靜音檢測(cè)服務(wù)、說(shuō)話(huà)人分離服務(wù)，是從之前靜音檢測(cè)和說(shuō)話(huà)人分離服務(wù)拆分而來(lái)。對(duì)這幾個(gè)服務(wù)的情況進(jìn)行如下說(shuō)明：

網(wǎng)關(guān)接入服務(wù)，負(fù)責(zé)業(yè)務(wù)接入分發(fā)、鑒權(quán)和檢測(cè)等功能。將消息可靠性功能拆分為補(bǔ)償服務(wù)，對(duì)服務(wù)的性能進(jìn)行了優(yōu)化

消息調(diào)度服務(wù)、數(shù)據(jù)上報(bào)服務(wù)，負(fù)責(zé)基于機(jī)器負(fù)載狀態(tài)進(jìn)行消息分發(fā)。

消息補(bǔ)償服務(wù)，將消息補(bǔ)償?shù)牟糠窒⒖煽啃员ＷC的功能，從之前的服務(wù)中拆分，負(fù)責(zé)對(duì)不同業(yè)務(wù)提供不同個(gè)性化補(bǔ)償策略。

靜音檢測(cè)服務(wù)、是從之前靜音檢測(cè)和說(shuō)話(huà)人分離服務(wù)拆分而來(lái)，將之前同步的流程拆分，進(jìn)行異步處理。

語(yǔ)音解碼內(nèi)核服務(wù)，負(fù)責(zé)將音頻片段轉(zhuǎn)寫(xiě)為文本。將語(yǔ)音解碼內(nèi)核服務(wù)優(yōu)化為可以進(jìn)行并發(fā)解碼，處理并發(fā)請(qǐng)求。

4.1 Kaldi解碼優(yōu)化實(shí)踐

Kaldi主要功能由c++開(kāi)發(fā)完成，共有26萬(wàn)行代碼。解碼器是Kaldi中的核心組件，用于將聲學(xué)特征序列轉(zhuǎn)換為文本序列。Kaldi提供了一些解碼器的接口，以及shell離線腳本demo。但是未提供生產(chǎn)級(jí)的服務(wù)。Kaldi原生解碼的主要問(wèn)題有：

4.1.1 無(wú)服務(wù)化支持

需要梳理調(diào)用關(guān)系，增加服務(wù)端、協(xié)議、客戶(hù)端調(diào)用支持。我們將模型、解碼器相關(guān)的接口抽象出來(lái)，封裝為gRPC服務(wù)，服務(wù)接收音頻數(shù)據(jù)、解碼為文本轉(zhuǎn)寫(xiě)結(jié)果。

4.1.2 無(wú)并發(fā)能力支持

原生的解碼器對(duì)并發(fā)請(qǐng)求的處理能力差。需要將服務(wù)的網(wǎng)絡(luò)請(qǐng)求模型和解碼器關(guān)聯(lián)起來(lái)，使服務(wù)獲取并發(fā)處理能力。我們的方案是服務(wù)啟動(dòng)時(shí)初始化足夠的解碼器數(shù)目到同步隊(duì)列中，當(dāng)服務(wù)請(qǐng)求線程到來(lái)時(shí)，從隊(duì)列中取出解碼器。當(dāng)請(qǐng)求結(jié)束后，再放回隊(duì)列中。

那么服務(wù)啟動(dòng)時(shí)初始化足夠數(shù)目的解碼器，這個(gè)數(shù)目是多少比較合適？服務(wù)初始的解碼器數(shù)目，就是可以支持的最大并行解碼的數(shù)目，這個(gè)數(shù)目越大，耗時(shí)越高、CPU/GPU的資源利用率越高。設(shè)置多少數(shù)目的解碼器，取決對(duì)實(shí)時(shí)率、尾包延遲的性能要求、也取決于服務(wù)器的硬件性能。比如在一臺(tái)CPU是Intel Xeon Silver 4210的物理機(jī)上，轉(zhuǎn)寫(xiě)一個(gè)30s的音頻，要求在2s內(nèi)返回轉(zhuǎn)寫(xiě)結(jié)果，系統(tǒng)最多能容忍32個(gè)解碼器并行處理，或者正在實(shí)時(shí)轉(zhuǎn)寫(xiě)的數(shù)據(jù)流，尾包延遲要求在100ms內(nèi)，系統(tǒng)最多能容忍16個(gè)解碼器并行處理。以定義好的性能數(shù)值為目標(biāo)，從小到大的設(shè)置解碼器數(shù)目進(jìn)行測(cè)試，滿(mǎn)足性能數(shù)值目標(biāo)時(shí)，此時(shí)的數(shù)字就是服務(wù)需要初始化的解碼器數(shù)目。

4.1.3 CUDA GPU解碼支持不足

需要處理CUDA環(huán)境、模型、解碼器的關(guān)系，對(duì)于非Exclusive模式有OOM異常風(fēng)險(xiǎn)。一個(gè)解碼服務(wù)進(jìn)程只能有一個(gè)模型對(duì)象進(jìn)行初始化，CUDA環(huán)境和模型對(duì)象是一一映射關(guān)系，單卡綁定一個(gè)CUDA環(huán)境、一個(gè)模型對(duì)象。而模型對(duì)象和解碼器之間是一對(duì)多的關(guān)系。

對(duì)于GPU解碼需要注意多個(gè)并發(fā)請(qǐng)求時(shí)轉(zhuǎn)寫(xiě)結(jié)果偶爾會(huì)出現(xiàn)亂碼、錯(cuò)字等情況，這是由于在Kaldi CUDA接口中的轉(zhuǎn)寫(xiě)回調(diào)函數(shù)在一個(gè)進(jìn)程環(huán)境下只有一個(gè)，這里需要在回調(diào)函數(shù)處理轉(zhuǎn)寫(xiě)結(jié)果時(shí)加鎖、避免這些問(wèn)題。

另外的一個(gè)問(wèn)題是在GPU解碼獲取lattice回調(diào)結(jié)果時(shí)，有資源未清理的問(wèn)題，會(huì)直接導(dǎo)致進(jìn)程異常退出，這是由于在初始化時(shí)解碼進(jìn)程綁定了唯一id和cuda channel的關(guān)系，但是在解碼結(jié)束時(shí)沒(méi)有解綁導(dǎo)致的，這個(gè)問(wèn)題我們發(fā)現(xiàn)后提交了PR就行了修復(fù)。

最終，解碼服務(wù)的設(shè)計(jì)如下，基于Kaldi和CUDA環(huán)境，在離線環(huán)境中完成聲學(xué)模型、語(yǔ)言模型的訓(xùn)練、添加相關(guān)的配置。在解碼服務(wù)啟動(dòng)時(shí)，加載服務(wù)配置，加載離線訓(xùn)練的模型，初始化解碼器同步隊(duì)列，當(dāng)有音頻請(qǐng)求到來(lái)時(shí)，根據(jù)協(xié)議判斷音頻請(qǐng)求的開(kāi)始和結(jié)束狀態(tài)，從隊(duì)列中加載解碼器，轉(zhuǎn)寫(xiě)出結(jié)果后，返回給服務(wù)的調(diào)用方。

4.2 后端應(yīng)用服務(wù)的優(yōu)化

除了在語(yǔ)音解碼服務(wù)上的優(yōu)化，在后端服務(wù)上我們也進(jìn)行了一系列的優(yōu)化，包含并發(fā)處理、多級(jí)緩存、I/O優(yōu)化、GC優(yōu)化、異步處理、分發(fā)效率優(yōu)化等方面，大大的優(yōu)化了系統(tǒng)的處理性能。具體的優(yōu)化如下：

4.2.1 并發(fā)處理和兩級(jí)緩存優(yōu)化

在音頻解析服務(wù)中，有很多音頻解析、轉(zhuǎn)換、分離、解碼、組合的處理模塊，處理鏈路長(zhǎng)，而消息接收的效率、解析轉(zhuǎn)換的效率、解碼的效率是不同的。如果整個(gè)處理過(guò)程是單一的處理鏈條，由于模塊間處理效率上的不匹配，會(huì)出現(xiàn)下游模塊等待上游模塊的情況，那么整體的處理效率就會(huì)受到影響。為了盡可能降低模塊間的阻塞等待，可以將耦合度低的模塊拆分出來(lái)，增加緩存單獨(dú)并行處理，此時(shí)可以認(rèn)為兩個(gè)緩存下的模塊是并行處理的鏈條，在處理效率上理論上大于等于單一鏈條的處理效率。在單一鏈條模塊有阻塞等待情況時(shí)，甚至要遠(yuǎn)高于單一鏈條的處理效率。

將服務(wù)優(yōu)化為設(shè)立二級(jí)緩存來(lái)縮短處理鏈條，同時(shí)兩個(gè)緩存下的模塊獨(dú)立并行處理。二級(jí)緩存中的第一級(jí)在消息接收和解碼轉(zhuǎn)換之間，第二級(jí)在轉(zhuǎn)換和解碼之間，在兩個(gè)不同分級(jí)之間，使用多線程批量處理提高吞吐能力。優(yōu)化后相比優(yōu)化前，TP999耗時(shí)降低了91%。

4.2.2 I/O優(yōu)化

常說(shuō)的I/O包含網(wǎng)絡(luò)I/O、磁盤(pán)I/O、設(shè)備I/O等，由于I/O時(shí)通常會(huì)涉及到數(shù)據(jù)交換、系統(tǒng)內(nèi)核態(tài)的切換，相應(yīng)的就會(huì)增加系統(tǒng)的開(kāi)銷(xiāo)。我們本次I/O優(yōu)化利用緩存、批量處理等手段來(lái)降低I/O，提升系統(tǒng)的性能。在服務(wù)中，涉及到多次磁盤(pán)I/O和網(wǎng)絡(luò)I/O：

(1) 服務(wù)里包含對(duì)大量音頻文件的讀寫(xiě)操作，會(huì)產(chǎn)生多次的磁盤(pán)I/O讀。通過(guò)使用緩存，以空間換時(shí)間的方式，將多次磁盤(pán)I/O讀降低為通過(guò)一次I/O緩存全部數(shù)據(jù)，缺點(diǎn)是增加了內(nèi)存，由于服務(wù)是Java服務(wù)，會(huì)相應(yīng)的增加GC回收頻率和停頓時(shí)長(zhǎng)，那就還涉及到GC上的優(yōu)化。

(2)服務(wù)里包含請(qǐng)求和響應(yīng)相似的單獨(dú)請(qǐng)求，涉及到大量的網(wǎng)絡(luò)I/O。通過(guò)將這些相似請(qǐng)求進(jìn)行合并，增加批量接口，進(jìn)行批量請(qǐng)求，降低網(wǎng)絡(luò)I/O次數(shù)。

整體上，優(yōu)化后相比優(yōu)化前，TP999耗時(shí)降低了10倍。

4.2.3?GC優(yōu)化

系統(tǒng)中的上層處理服務(wù)是Java服務(wù)，Java服務(wù)由于垃圾回收的關(guān)系，會(huì)在回收期間暫停應(yīng)用程序線程的執(zhí)行(Stop-The-World)，直到垃圾回收操作完成，毫無(wú)疑問(wèn)這會(huì)降低系統(tǒng)性能。之前服務(wù)使用G1垃圾回收器，也進(jìn)行了參數(shù)調(diào)優(yōu)，比如增加堆內(nèi)存、調(diào)整G1HeapRegionSize、MaxGCPauseMillis等，但是效果不是很理想。這是由于緩存音頻數(shù)據(jù)導(dǎo)致服務(wù)的內(nèi)存占用大，老年代對(duì)象較多，會(huì)頻繁的進(jìn)行Mixed GC和Full GC。服務(wù)中G1的回收頻率5s左右，回收停頓的時(shí)間平均1.8s、最大停頓時(shí)間接近40s，拉低了服務(wù)整體處理性能。
ZGC在JDK11中首次發(fā)布，是一種低停頓時(shí)間、適合大堆內(nèi)存的垃圾回收器，能在幾毫秒到幾十毫秒內(nèi)完成垃圾回收。ZGC基于并發(fā)標(biāo)記、并發(fā)轉(zhuǎn)移、以及讀屏障等技術(shù)，而且回收時(shí)僅需要掃描GC Roots, 使得STW的延遲非常低。通過(guò)將JDK版本升級(jí)到JDK11，使用ZGC回收器替換G1回收器后，GC回收頻率控制在10~20s左右，回收停頓時(shí)間降低到10ms 以?xún)?nèi)。

4.2.4 分發(fā)效率優(yōu)化

在之前的系統(tǒng)中，是基于不同業(yè)務(wù)場(chǎng)景的消息分發(fā)，對(duì)不同的業(yè)務(wù)場(chǎng)景實(shí)現(xiàn)消息隔離、資源隔離，在流量不高的情況下，這種實(shí)現(xiàn)方式簡(jiǎn)單、靈活。但在各業(yè)務(wù)流量增大，流量不均衡的情況下，會(huì)導(dǎo)致不同業(yè)務(wù)場(chǎng)景資源利用率不均衡、處理性能不均衡。

從基于業(yè)務(wù)場(chǎng)景的消息分發(fā)，修改為基于資源負(fù)載數(shù)據(jù)的消息分發(fā)。針對(duì)消息不同處理階段，賦予不同的分發(fā)狀態(tài)：接收狀態(tài)、分發(fā)狀態(tài)、處理狀態(tài)、完成狀態(tài)。根據(jù)這些狀態(tài)和機(jī)器自身的負(fù)載數(shù)據(jù)，進(jìn)行分發(fā)，盡可能的將消息發(fā)送到低利用率的機(jī)器上，以達(dá)到機(jī)器負(fù)載水平整體均衡的狀態(tài)。優(yōu)化后的實(shí)現(xiàn)方式，實(shí)現(xiàn)難度上有所增加，系統(tǒng)上有一個(gè)中心化的調(diào)度服務(wù)，根據(jù)收集到的數(shù)據(jù)分發(fā)調(diào)度。調(diào)度服務(wù)不但能實(shí)現(xiàn)基于負(fù)載的分發(fā)，也可以定向分發(fā)、或者延遲分發(fā)。

定向分發(fā)是對(duì)于某些業(yè)務(wù)場(chǎng)景，有特殊處理情況，可以將流量定向到某臺(tái)機(jī)器、某個(gè)集群上去處理。延遲分發(fā)，是對(duì)于某些業(yè)務(wù)場(chǎng)景流量不規(guī)律，短時(shí)間的流量尖刺會(huì)發(fā)送大量請(qǐng)求，延遲分發(fā)對(duì)流量進(jìn)行平滑、延遲處理，緩解對(duì)下游服務(wù)的處理負(fù)擔(dān)。

4.2.5 異步化

如果在服務(wù)中存在一些耗時(shí)高的模塊，但是和上下鏈的模塊依賴(lài)度不高，和服務(wù)響應(yīng)的關(guān)聯(lián)度也不高，那么可以考慮將高耗時(shí)的模塊異步處理，而快速返回低耗時(shí)模塊的同步處理結(jié)果。

在網(wǎng)關(guān)接入服務(wù)中，就符合這些異步化處理的條件。存在一些高耗時(shí)模塊，比如時(shí)長(zhǎng)計(jì)算、音頻下載分析等模塊，而服務(wù)返回結(jié)果和這些高耗時(shí)模塊也沒(méi)有關(guān)聯(lián)。其他功能模塊和這個(gè)高耗時(shí)模塊的依賴(lài)度也不高。如果服務(wù)采用同步處理，一方面服務(wù)的響應(yīng)耗時(shí)會(huì)很高，另一方面會(huì)出現(xiàn)線程阻塞、請(qǐng)求排隊(duì)的情況。采取的優(yōu)化方案是將高耗時(shí)模塊后置異步處理，而其它功能模塊則同步處理，快速返回結(jié)果。優(yōu)化上線后，將服務(wù)的TP999耗時(shí)從數(shù)百毫秒降低到了幾十毫秒。

4.3 數(shù)據(jù)效果

從架構(gòu)1.0升級(jí)到架構(gòu)2.0后，在資源利用率、系統(tǒng)性能、系統(tǒng)可靠性上都得到了提升。GPU卡的最高利用率從45%提升到75%左右；GPU卡資源占用節(jié)省了62%；線上平均耗時(shí)降低了88%，TP999耗時(shí)降低了98%。

5

總結(jié)

本文介紹了基于Kaldi的語(yǔ)音識(shí)別引擎的后端架構(gòu)設(shè)計(jì)，在前期人力少、排期緊、流量不大的情況下，快速了完成架構(gòu)1.0的上線，滿(mǎn)足了當(dāng)時(shí)的業(yè)務(wù)轉(zhuǎn)寫(xiě)需求。隨著接入場(chǎng)景越來(lái)越多，流量越來(lái)越大，針對(duì)架構(gòu)1.0的不足進(jìn)行了重構(gòu)和升級(jí)，重點(diǎn)針對(duì)基于Kaldi的內(nèi)核解碼服務(wù)的不足，進(jìn)行了并發(fā)化改造優(yōu)化，針對(duì)其它后端應(yīng)用服務(wù)進(jìn)行了拆分和性能優(yōu)化，提升了GPU的利用率、以更低的資源占用處理更多的音頻數(shù)據(jù)，系統(tǒng)的整體性能也有了較大幅度的降低，系統(tǒng)可靠性得到了更好的保證。

【作者簡(jiǎn)介】

王焱，58同城后端高級(jí)架構(gòu)師，58同城TEG-AI Lab語(yǔ)音架構(gòu)部負(fù)責(zé)人，主要負(fù)責(zé)語(yǔ)音識(shí)別、語(yǔ)音合成等語(yǔ)音技術(shù)的后端架構(gòu)設(shè)計(jì)和開(kāi)發(fā)工作。

編輯：黃飛

?