NVIDIA Riva 可提供經(jīng)過(guò)全面優(yōu)化的流程,用于部署實(shí)時(shí) AI 語(yǔ)音應(yīng)用(例如轉(zhuǎn)錄和虛擬助理)。
什么是NVIDIA Riva
NVIDIA Riva是用于開發(fā)語(yǔ)音 AI 應(yīng)用程序的 GPU 加速 SDK。Riva 旨在幫助您輕松快速地訪問(wèn)對(duì)話 AI 功能。只需幾個(gè)命令,您就可以通過(guò) API 操作訪問(wèn)高性能服務(wù)并嘗試演示。
Riva SDK 包括預(yù)訓(xùn)練的語(yǔ)音 AI 模型,用于在自定義數(shù)據(jù)集上對(duì)這些模型進(jìn)行微調(diào)的 NVIDIA TAO 工具套件,以及用于自動(dòng)語(yǔ)音識(shí)別和語(yǔ)音合成的優(yōu)化端到端技能。
使用 Riva,您可以輕松地對(duì)數(shù)據(jù)上的最新模型進(jìn)行微調(diào),以實(shí)現(xiàn)對(duì)其特定背景進(jìn)行更深入的理解。優(yōu)化推理,以提供運(yùn)行時(shí)間為 150 毫秒(ms)的實(shí)時(shí)服務(wù),而在僅有 CPU 的平臺(tái)上則需要運(yùn)行 25 秒。
特定任務(wù)的 AI 服務(wù)和 gRPC 端點(diǎn)提供開箱即用的高性能 ASR 和 TTS。這些 AI 服務(wù)經(jīng)過(guò)數(shù)千小時(shí)的公共和內(nèi)部數(shù)據(jù)集的訓(xùn)練,以達(dá)到高精確度。您可以開始使用預(yù)先訓(xùn)練的模型,或者使用您自己的數(shù)據(jù)集對(duì)其進(jìn)行微調(diào),以進(jìn)一步提高模型性能。
Riva 使用 NVIDIATriton Inference Server 為多個(gè)模型提供服務(wù),以實(shí)現(xiàn)高效、穩(wěn)健的資源分配,并在高吞吐量、低延遲和高精確度方面實(shí)現(xiàn)高性能。
NVIDIA Riva 2.0功能亮點(diǎn)
出色的自動(dòng)語(yǔ)音識(shí)別(ASR)和文字轉(zhuǎn)語(yǔ)音(TTS)模型
除英語(yǔ)外,還支持西班牙語(yǔ)、德語(yǔ)和俄語(yǔ)
具有精細(xì)控制以實(shí)現(xiàn)語(yǔ)言表達(dá)的實(shí)時(shí)文本轉(zhuǎn)語(yǔ)音流程
借助 NVIDIA TAO 工具套件輕松地針對(duì)自定義數(shù)據(jù)進(jìn)行調(diào)優(yōu)
能夠擴(kuò)展到成百上千個(gè)實(shí)時(shí)串流
使用單個(gè)命令部署服務(wù)的端到端工作流程和工具
Riva開發(fā)者入門套件
使用 NVIDIA Riva 開發(fā)語(yǔ)音 AI 所需的各種套件,包括教程、Jupyter Notebook 和文檔。點(diǎn)擊閱讀原文,開始使用 Riva 開發(fā)者入門套件并了解相關(guān)內(nèi)容。
自動(dòng)語(yǔ)音識(shí)別
Riva ASR 視頻入門
關(guān)于訓(xùn)練和部署的博客
聯(lián)系中心示例應(yīng)用
用于微調(diào) ASR 模型的 Jupyter Notebook
ASR 文檔
文字轉(zhuǎn)語(yǔ)音
虛擬助理示例
含 RASA 教程的虛擬助手
設(shè)置 TTS 服務(wù)示例
使用 SSML 自定義 TTS 示例
TTS 文檔
搶先體驗(yàn)版中已可使用Riva定制錄音機(jī)
Riva 定制錄音機(jī)是一款采用 Riva 文本轉(zhuǎn)語(yǔ)音流程的工具,用于開發(fā) AI 語(yǔ)音克隆。
點(diǎn)擊閱讀原文,了解更多 NVIDIA Riva 入門及相關(guān)更新內(nèi)容
NVIDIA 深度學(xué)習(xí)培訓(xùn)中心
NVIDIA 深度學(xué)習(xí)培訓(xùn)中心還推出了NVIDIA Riva相關(guān)免費(fèi)課程,您可以復(fù)制鏈接查看課程詳情。
使用 Riva 部署文本分類模型
您將學(xué)習(xí)如何使用 Riva ServiceMaker 框架部署文本分類模型。將 Riva 部署所需的所有組件聚合到目標(biāo)部署環(huán)境的過(guò)程是快速而直接的。當(dāng)模型部署在 Riva 中以后,您就可以向服務(wù)器發(fā)出推理請(qǐng)求。
原文標(biāo)題:DevZone | NVIDIA Riva入門
文章出處:【微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
審核編輯:湯梓紅
-
NVIDIA
+關(guān)注
關(guān)注
14文章
4793瀏覽量
102427 -
gpu
+關(guān)注
關(guān)注
27文章
4591瀏覽量
128143 -
AI
+關(guān)注
關(guān)注
87文章
28876瀏覽量
266219
原文標(biāo)題:DevZone | NVIDIA Riva入門
文章出處:【微信號(hào):NVIDIA-Enterprise,微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論