СМИ: ChatGPT охотно обсуждал биологическое оружие и яды

В некоторых случаях ответы нейросети были неприятно точными.

Сотни пользователей по всему миру пытались узнать у ChatGPT, как создавать яды и биологическое оружие, и нейросеть отвечала, пишет The Wall Street Journal со ссылкой на источники. Соответствующие диалоги датируются летом 2025 года.

Эксперты, видевшие соответствующие переписки, назвали некоторые ответы чат-бота «смертельно точными». По словам источников, ChatGPT подробно объяснял потенциально опасные действия, для понимания инструкций хватало знаний на уровне старшей школы.

В конце концов, пишет издание, OpenAI обнаружила некорректные беседы с чат-ботом и заблокировала аккаунты, проводившие такие диалоги. Компания не стала передавать данные о них правоохранителям.

В комментарии для The Wall Street Journal представители OpenAI заявили, что сообщают властям о случаях использования нейросетей, которые могут быть связаны с нанесением вреда в реальном мире. В теории модели компании должны отклонять потенциально опасные запросы.