Все новости
Это интересно
Сейчас читают
Технологии
Аватар Evernews Evernews

Исследование: программисты с ИИ-помощником чаще пишут небезопасный код

2
0
Поделиться
Телеграфировать

И одновременно испытывают большую уверенность в его безопасности.

Исследование: программисты с ИИ-помощником чаще пишут небезопасный код

Сейчас разработчикам доступно несколько систем-помощников, работающих на базе ИИ: например, Codex от OpenAI. Такие помощники обучены на больших массивах кода и могут генерировать крупные фрагменты исходников.

Группа исследователей из Стэнфордского университета решила выяснить, насколько безопасны такие помощники. Для этого исследователи собрали 47 разработчиков с разным уровнем опыта и предложили части из них решить ряд задач, используя Codex.

Оказалось, что разработчики с доступом к Codex писали небезопасный код чаще, чем их коллеги, работавшие самостоятельно. В то же время разработчики с ИИ-помощником были более уверены в безопасности своего кода, чем программисты, работавшие без участия ИИ.

Исследователи не считают, что программистам вообще не стоит пользоваться помощниками на базе ИИ: в задачах, не имеющих отношения к безопасности, они могут быть полезны. Но когда речь идет о безопасности, то код, сгенерированный ИИ, надо изучать особо тщательно.

Для улучшения качества генерации потенциально опасного кода исследователи предлагают ввести систему подсказок, позволяющих ИИ лучше понимать назначение кода, и дополнительно проверить, что в библиотеках, связанных с безопасностью, по умолчанию не используются значения, открытые для эксплойтов.

Читать далее
За сколько вы готовы купить GTA VI?
До 8000 рублей
298 голосов, 5.6%
До 7000 рублей
92 голоса, 1.7%
До 6000 рублей
119 голосов, 2.2%
До 5000 рублей
536 голосов, 10.1%
До 4000 рублей
143 голоса, 2.7%
До 3000 рублей
247 голосов, 4.6%
До 2000 рублей
616 голосов, 11.6%
За любые деньги
295 голосов, 5.5%
Ни за сколько, я пират
2983 голоса, 56.0%
Теги: Технологии
Аватар Evernews
Evernews
8074 подписчика