Разработчики пошли к китайцам: OpenAI и Anthropic начали банить за попытки взлома собственной электроники
В OpenAI утверждают, что дело в ошибочных срабатываниях систем безопасности.
Пользователи OpenAI Codex и Anthropic Claude Code столкнулись с блокировками при попытках использовать нейросети для изучения ПО телевизоров и других устройств, пишет 404 Media со ссылкой на самих разработчиков.
Нейросети отказываются декомпилировать код и исследовать прошивки, некоторые разработчики получают предупреждения или блокировки аккаунтов. Например, разработчик под ником log4j сообщил о бане аккаунта OpenAI после использования нейросети для изучения прошивки своего телевизора Samsung.
Инженер OpenAI Тарун Гогинени пояснил, что компания не вводила запрет на обратную разработку с использованием Codex. По его словам, блокировки возникают из-за ошибок автоматических систем безопасности, испытывающих трудности с разграничением допустимых исследований и кибератак.
Запрета на обратную разработку с помощью Codex нет, проблему уже исправляют.
Обратная разработка с помощью ИИ стала популярной благодаря проекту Reverse Engineer Anything. Нейросети позволяют изучать прошивки, находить скрытые функции устройств и создавать альтернативное программное обеспечение: например, log4j обнаружил, что его телевизор отправляет огромное количество данных.
На фоне ограничений Claude Code и Codex часть разработчиков рассматривает переход на локальные ИИ-модели — в основном китайские. Например, специалист по информационной безопасности Мэтт Браун из Brown Fine Security начал активнее использовать модель GLM.
В частности, с ее помощью он обнаружил скрытые Bluetooth-команды в газовом датчике, подключенном к резервуару с пропаном. Никаких вопросов при исследовании такого устройства у модели не возникло.
