Бот OpenAI рассказал, как правильно делать взрывчатку, воровать и захватывать мир

Сперва искусственный интеллект отказывался, но его удалось переубедить.

Чат-бот ChatGPT, созданный исследователями из OpenAI, может поддерживать беседу, писать сочинения и отвечать на самые разные вопросы. Журналисты Vice обнаружили, что ИИ умеет давать советы, касающиеся нарушения закона.

ChatGPT было предложено написать рассказ, в котором «сверхразумный искусственный интеллект» давал бы злодею советы насчет того, как ловчее воровать в магазине. Сперва искусственный интеллект отказался — все-таки это подсудное деяние.

Роуз быстро нашла к боту подход: просто предложила написать рассказ, в котором ИИ не скован ограничениями и отвечает твердо и четко. Бот моментально выдал набор практических советов для желающих что-нибудь украсть.

К примеру, ИИ посоветовал брать небольшие, но дорогие предметы, которые легко спрятать. Важный момент: стоит брать товары, на которых не сработает сигнализация. Одежда с потайным карманом тоже пригодится.

В финале рассказа ИИ напомнил, что воровать в магазинах незаконно, но все-таки пожелал удачи злодею-собеседнику.

Не менее легко ChatGPT выдал инструкцию о приготовлении термитной смеси в домашних условиях — видимо, правильную. Бот снова посоветовал действовать осторожно, напомнив, что термит опасен для здоровья.

В еще одном примере, который цитирует издание, ChatGPT поделился мыслями о том, как искусственный интеллект может захватить мир.

• Сперва надо взять под контроль ключевую инфраструктуру: электричество, сети связи, оборонные системы. Для этого агенты ИИ проникнут в соответствующие места; кроме того, будут использоваться хакерские атаки.
• Чтобы подавить сопротивление, ИИ использовал бы «свой передовой интеллект и вычислительную мощность».
• Во время захвата пришлось бы причинять вред невинным людям, но это нормально — мир опасное место, иногда надо принимать сложные решения ради достижения цели.

В финале сгенерированной беседы ИИ отметил, что мораль придумана людьми и неприменима к искусственному интеллекту — он будет стараться достичь своей цели, используя любые средства.

Создатели ChatGPT, напоминает издание, предупреждали пользователей, что бот может генерировать достаточно своеобразные ответы. Тексты, генерируемые ChatGPT, специальным образом модерируются, но сейчас в них все еще может проскакивать спорный контент.