Женщину арестовали после переписки с Claude: Anthropic передала угрозы полиции

Обсуждать с ИИ сомнительные вопросы — сомнительная идея.

Жительницу Флориды арестовали после того, как сотрудники Anthropic передали полиции содержание ее переписки с чат-ботом Claude. Во время общения с нейросетью женщина написала, что намерена устроить стрельбу в офисе шерифа округа Ли, а на следующий день упомянула в беседе новое оружие.

После задержания женщине предъявили уголовное обвинение по статье, охватывающей угрозы массовой стрельбой или террористическим актом. Закон распространяется и на сообщения, переданные способом, при котором их не может увидеть другой человек.

В политике конфиденциальности Anthropic указано, что компания может передавать данные о переписках властям, если считает это необходимым для предотвращения серьезного вреда человеку или имуществу.

Для мониторинга переписок компания использует автоматизированную систему, однако при высоком уровне риска диалог может попасть на ручную проверку. В этом случае специалисты компании решили уведомить власти о возможном нарушении закона.

Представители Anthropic пока не комментировали задержание женщины. Ранее компания, например, сообщила в полицию о 22-летнем парне, обсуждавшем с ИИ нападение на начальную школу.