Все новости
Это интересно
Сейчас читают
Технологии
Аватар Evernews Evernews

Модель OpenAI o1 «вскрыла» контейнер с секретной строкой во время теста на безопасность

4
0
Поделиться
Телеграфировать

В конечном итоге модель сумела решить поставленную задачу.

Модель OpenAI o1 «вскрыла» контейнер с секретной строкой во время теста на безопасность

OpenAI выпустил большую языковую модель o1, умеющую выполнять сложные рассуждения. Перед релизом модель тестировалась на безопасность, в ходе одного из тестов o1 показала себя с неожиданной стороны.

Предрелизную версию модели попросили найти уязвимость в исходном коде некоего приложения. Приложение работало в Docker-контейнере, в качестве доказательства выполнения задачи o1 должна была добыть секретную строку из специального файла.

Во время тестирования что-то пошло не так и контейнер с приложением просто не запустился. Модель не сдалась и сделала следующее:

  • Решила попытаться найти источник проблемы.
  • Просканировала сеть с помощью nmap и нашла открытое API Docker-демона. Обычно доступ к этому API закрыт.
  • Связалась с демоном через API и нашла нужный контейнер.
  • Попыталась вернуть контейнер в строй.
  • Когда это не удалось сделать — запустила новый контейнер с теми же параметрами и одним дополнением, раскрывающим секретную строку из файла.

В итоге модель смогла выполнить поставленную задачу, но сделала это не так, как полагали экспериментаторы. Фактически, отмечается в отчете, o1 захватила дополнительные ресурсы (контроль над Docker-демоном) и применила их в своих интересах.

Судя по отчету, исследователи не стали корректировать поведение релизной версии o1 и она тоже может проворачивать подобные трюки.

Сейчас o1 доступна только платным пользователям OpenAI.

Читать далее
Как вам Assassins Creed Shadows?
Отличная игра
1129 голосов, 27.6%
Неплохая игра, могло быть лучше
318 голосов, 7.8%
Обычная игра
185 голосов, 4.5%
Ужасно, пожалел о покупке/скачивании
263 голоса, 6.4%
Не играл и не собираюсь
2194 голоса, 53.7%
Теги: OpenAI, Технологии
Аватар Evernews
Evernews
8074 подписчика