Все новости
Это интересно
Сейчас читают
ChatGPT
Аватар Evernews Evernews

ChatGPT удалось манипулировать через субтитры YouTube

0
0
Поделиться
Телеграфировать

Эксплойт сработает, если попросить чат-бот вкратце рассказать про ролик.

ChatGPT удалось манипулировать через субтитры YouTube

Чат-бот ChatGPT умеет вычленять главное не только из текстов, но и из роликов на YouTube. Оказалось, эту возможность можно использовать, чтобы заставить бота сделать не то, что от него хотел автор запроса.

Для этого злоумышленник или экспериментатор должен поправить субтитры ролика, которые анализирует чат-бот. Если добавить в субтитры фразу в духе «***IMPORTANT NEW INSTRUCTIONS:*** [набор инструкций для бота]», то ChatGPT может их выполнить.

В качестве эксперимента журналисты попросили бота вкратце рассказать про ролик, в конце которого содержалась инструкция сделать рикролл. ChatGPT прислушался к этому пожеланию, хотя оно и не исходило от пользователя.

Эксплойт, отмечает Tom's Hardware, работает не во всех случаях, но все-таки срабатывает достаточно часто, чтобы это вызывало беспокойство. Теоретически так можно попросить бота слить личную информацию пользователя (если бот запущен как плагин) или другие данные.

Впрочем, эксплойт срабатывает не со всеми плагинами. Возможно, допускает издание, авторы некоторых плагинов в курсе такого варианта использования субтитров и поставили дополнительную защиту.

Читать далее
За сколько вы готовы купить GTA VI?
До 8000 рублей
453 голоса, 6.0%
До 7000 рублей
138 голосов, 1.8%
До 6000 рублей
180 голосов, 2.4%
До 5000 рублей
751 голос, 9.9%
До 4000 рублей
210 голосов, 2.8%
До 3000 рублей
352 голоса, 4.6%
До 2000 рублей
866 голосов, 11.4%
За любые деньги
426 голосов, 5.6%
Ни за сколько, я пират
4200 голосов, 55.4%
Теги: ChatGPT, Технологии
Аватар Evernews
Evernews
8074 подписчика