NLP 概述

Riva 支持基本的自然语言处理 (NLP) 文本标点和大小写功能；这些模型可以使用 NVIDIA NeMo 进行微调和部署。 有关 Riva NLP API 的更多信息，请参阅 riva/proto/riva_nlp.proto 部分。

标点和大小写

部署在 Riva 上的标点和大小写模型需要未标点的输入。带有标点的输入可能无法产生预期的结果。

检查已部署的模型

一旦服务器运行，就可以通过 GetRivaNLPConfig rpc 检索可用的模型。 对于每个可用于进行推理请求的模型，rpc 返回模型部署时使用的参数。