СМИ: OpenAI увольняет подрядчиков за использование ИИ при оценке ИИ

Подрядчики якобы используют нейросети для выполнения заданий.

OpenAI столкнулась с необычной проблемой при обучении собственных моделей, пишет 404 Media со ссылкой на источники. По данным издания, подрядчики, нанятые для проверки ответов ChatGPT, сами используют ИИ при выполнении заданий.

Сотрудники такого рода анализируют запросы пользователей и помогают выявлять ошибки моделей. Полученные данные используются для дообучения нейросетей — предполагается, что оценка ответов позволяет повышать качество моделей.

Один из подрядчиков рассказал 404 Media, что случаи применения ИИ встречаются регулярно, а увольняют за такие нарушения очень быстро.

Проверяющим, контролирующим работу подрядчиков, якобы запрещено использовать ИИ и сервисы для обнаружения сгенерированных текстов вроде GPTZero. Для выявления нарушений, пишет издание, ревьюерам предлагают искать косвенные признаки: повторяющиеся формулировки, характерную пунктуацию, чрезмерное использование длинного тире и подозрительно высокую скорость выполнения заданий.

Один из уволенных подрядчиков признался, что действительно использовал ИИ — он объяснил решение отсутствием интереса к работе. Еще один подрядчик рассказал изданию о другой проблеме: он намеренно выбирал худшие ответы моделей или оценивал их случайным образом, пытаясь ухудшить результаты обучения.