Правозащитники обнаружили угрозу в полицейских рапортах, созданных ИИ

Возможно, в итоге подобные инструменты будут запрещены на уровне штатов.

Организация по защите цифровых прав Electronic Frontier Foundation опубликовала расследование, в котором раскритиковала использование искусственного интеллекта для составления полицейских рапортов.

Речь идет о системе Draft One, разработанной американской компанией Axon. Система Draft One, работающая на базе модифицированной версии ChatGPT, используется для автоматического создания текстов рапортов по аудиозаписям с нагрудных камер полицейских.

В Axon утверждают, что офицеры обязаны редактировать черновики рапортов вручную и утверждать документы, созданные ИИ. В EFF обнаружили, что система не сохраняет первоначальные версии документов и невозможно выяснить, проверялись ли сгенерированные рапорты офицерами.

Оказалось, что система не фиксирует изменения и не показывает, какие фрагменты написаны ИИ, а какие добавлены человеком. Кроме того, иногда система может неверно интерпретировать сленг или добавлять несуществующий контекст.

По мнению правозащитников, это делает технологию практически неаудируемой и создает риски злоупотреблений. Например, полицейские могут избежать ответственности за недостоверные или искаженные показания.

EFF также указывает, что большинство полицейских департаментов не обязаны раскрывать факт использования ИИ, а сама система Draft One не позволяет экспортировать списки офицеров, использующих инструмент. Получить перечень рапортов, созданных с помощью ИИ, тоже нельзя.

Представители Axon заявили, что все действия регистрируются в цифровом журнале, но подтвердили отсутствие сохранения черновиков рапортов. По словам представителей компании, это сделано, чтобы ее клиенты могли избежать юридических сложностей.

Сейчас власти нескольких штатов США рассматривают законопроекты, фактически запрещающие полиции использовать Draft One и аналогичные системы.