Люди читают переписки с ChatGPT: OpenAI наняла подрядчиков для проверки реальных разговоров

Эти данные используются для повышения качества ответов модели.

OpenAI привлекает сотни подрядчиков для чтения и оценки запросов пользователей ChatGPT, сообщает 404 Media. По данным издания, подрядчикам могут показывать не только отдельные сообщения, но и целые разговоры с чат-ботом — в том числе содержащие личную информацию.

Система якобы устроена так: подрядчик сначала читает запрос пользователя, затем кратко формулирует предполагаемую цель обращения и изучает четыре варианта ответа ChatGPT. Каждый ответ требуется оценить по семибалльной шкале, отметить удачные и неудачные фрагменты и объяснить свое решение.

Особое внимание OpenAI якобы уделяет стилю общения ChatGPT. Согласно внутренним инструкциям, модель должна меньше поддакивать пользователю, не выдавать себя за человека, не приписывать себе эмоции и личный опыт, избегать частого использования эмодзи. От ответов требуют сдержанного и профессионального тона.

Утверждается, что подрядчики не видят имена владельцев учетных записей, а перед передачей данных чатов OpenAI обрабатывает их при помощи системы Privacy Filter, предназначенной для удаления персональных данных. Однако компания признает, что фильтр способен пропускать некоторые данные.

В некоторых заданиях подрядчикам также показывают сводку с информацией о прошлых обращениях пользователя к ChatGPT и дополнительным контекстом о пользователе. Собеседнику издания из Северной Америки платят за такую работу $50+ в час; саму работу он называет однообразной, а инструкции — иногда противоречащими друг другу.

Представители OpenAI фактически подтвердили изданию существование системы оценки диалогов людьми, но не стали детально описывать ее функционал. Сотрудники компании отметили, что избежать использования диалогов с ChatGPT для улучшения моделей можно с помощью настройки «Совершенствовать модель для всех».

Представители Anthropic подтвердили наличие аналогичной системы, тоже помогающей компании улучшать качество ответов ее моделей. Подрядчики Google также могут просматривать диалоги с Gemini для улучшения модели.