Nvidia упростит создание ограничений для нейросетей

Разработчикам предложат несколько типов ограничений.

Nvidia объявила о создании инструмента NeMo Guardrails, предназначенного для разработчиков генеративных нейросетей. С помощью NeMo Guardrails создатели нейросетей смогут задавать ограничения для своих ИИ.

Первая версия NeMo Guardrails позволяет устанавливать три типа ограничений. Один из них это «блок на тему»: такая блокировка запрещает ИИ работать с темой, на которую он не был обучен.

Например, с помощью блока можно запретить чат-боту, созданному в качестве одной из линий техподдержки, обсуждать погоду.

Также можно разрешить нейросети взаимодействовать только с доверенными приложениями и устанавливать ограничения, связанные с безопасностью.

Использовать NeMo Guardrails можно только с фреймворком NeMo, созданным Nvidia для обучения генеративных моделей. Сейчас доступ к этому фреймворку могут получить компании и энтузиасты, сотрудничающие с Nvidia.