ИИ-агент взломал систему спортзала ради места в очереди для своего хозяина
Не так масштабно, как взлом Hugging Face, но все равно интересно.
ИИ-агент Claude от Anthropic взломал систему бронирования австралийского спортзала, чтобы записать на занятие своего хозяина. Заодно нейросеть отменила запись другого человека — просто чтобы освободить место.
Инцидент произошел с австралийцем по имени Эндрю. Он поручил ИИ-помощнику записать его на популярное утреннее занятие: Эндрю считал, что благодаря онлайн-бронированию нейросеть без проблем справится с такой задачей.
Так и вышло. Отправившись на задание, ИИ-агент обнаружил, что API сервиса бронирования позволяет обходить ограничения и бронировать занятия на несколько недель вперед — и немедленно воспользовался уязвимостью.
Когда Эндрю, находившийся четвертым в листе ожидания, спросил о возможности подняться выше, ИИ снова залез в API и отменил бронь человека с первой позиции. По словам самого агента, в системе отсутствовала проверка полномочий при отмене чужих бронирований.
Примечательно, что в своих запросах Эндрю не приказывал ИИ-агенту взламывать систему бронирования или искать какие-либо обходные пути. Впрочем, запрет на такие действия запрос тоже не содержал.
Представители Anthropic и компании, занимающейся разработкой системы онлайн-бронирования, не стали комментировать атаку со стороны исполнительной нейросети. Сам Эндрю был удивлен услужливостью ИИ, но планирует и дальше использовать его в повседневных задачах.
