OpenAI сообщила о росте расходов на запуск моделей из-за улучшения защиты

В некоторых случаях накладные расходы увеличиваются на 20%.

Улучшение защитных механизмов для моделей OpenAI приводит к росту накладных расходов на инференс моделей. В некоторых случаях рост таких расходов достигает 20%, сообщает компания.

Подробности улучшенной системы контроля моделей OpenAI не раскрываются. Ранее компания сообщала, что наблюдение за цепочками рассуждений помогает выявлять нежелательное поведение ИИ, однако само по себе строгое обучение на соблюдение инструкций не гарантирует безопасность работы модели.

Ограничения распространяются на ситуации, в которых ИИ способен выполнять код или использовать инструменты с доступом в интернет. В таких случаях компания намерена переводить модели в более защищенную инфраструктуру с песочницами, сетевой изоляцией и постоянным тестированием безопасности.

Хотя новые механизмы защиты появились после атаки тестовых моделей OpenAI на Hugging Face, в компании утверждают, что работа над улучшением защиты началась еще до этого инцидента. На время улучшения защиты OpenAI притормозила часть обучения моделей.

Глава OpenAI Сэм Альтман заявил, что пауза не должна существенно повлиять на ближайшие релизы, однако более отдаленные проекты могут выйти несколько позже, чем ожидалось. Ничего более конкретного Альтман не сказал.