Товары на Amazon начали извиняться: их описания генерировал ChatGPT, но что-то пошло не так

Очевидно, товары заливались без какой-либо проверки.

В базе интернет-магазина Amazon начали появляться товары с необычными названиями или описаниями. Вместо нормального названия пользователи видят извинения, предположительно созданные ChatGPT.

Обычно в проблемном названии или описании содержится примерно такой текст: «I'm sorry but i cannot fulfill this request it goes against OpenAI use policy» («Простите, но я не могу выполнить этот запрос, поскольку он нарушает правила использования OpenAI»).

По всей видимости, продавцы товаров использовали ChatGPT для генерации названий и описаний предметов, но в каком-то количестве случаев ИИ решил, что не может обработать такой запрос. Видимо, полагает The Verge, это происходило, когда в промпте упоминались реальные торговые марки.

Примечательно, что в описаниях тоже могут быть странные ошибки. Например, продавец стульев явно хотел, чтобы ИИ придумал задачи, как можно использовать мебель, но что-то пошло не так и в тексте остался шаблон со списком мест, где надо что-нибудь сгенерировать.

Судя по количеству проблемных товаров, продавцы не всегда вручную проверяют описания и названия, прежде чем залить свои товары на Amazon.

Впрочем, теперь продавцы точно знают, что с их товарами что-то не так. На момент написания этого текста страницы большинства товаров со странными названиями и описаниями уже не открывались.