Все новости
Это интересно
Сейчас читают
OpenAI
Аватар Evernews Evernews

OpenAI рассказала о злоупотреблении ИИ-моделями и борьбе с преступниками

0
0
Поделиться
Телеграфировать

Компания активно блокирует аккаунты, делающие странное с помощью ИИ.

OpenAI рассказала о злоупотреблении ИИ-моделями и борьбе с преступниками

Стартап OpenAI опубликовал отчет о предотвращении злоупотреблений своими ИИ-моделями. Оказалось, с февраля 2024 года OpenAI забанила свыше 40 сетей, нарушавших правила использования ее продуктов.

Согласно отчету, нейросети компании использовались для кибератак, мошенничества, а также политических кампаний, организованных при поддержке государственных структур других стран.

Например, была найдена организованная преступная сеть, предположительно действовавшая из Камбоджи, которая пыталась использовать нейросети для автоматизации своих операций.

Также OpenAI зафиксировала активность аккаунтов, связанных с Китаем: здесь ИИ пытались использовать для разработки систем мониторинга социальных сетей, тем самым нарушая правила использования моделей OpenAI.

Для выявления таких угроз OpenAI использует комбинированный подход. Используются как автоматические алгоритмы фильтрации, так и ручная проверка подозрительных случаев.

Примечательно, что уровень надежности встроенных систем безопасности OpenAI может снижаться во время длительных сеансов общения. В будущем компания намерена усилить защиту своих нейросетей.

Читать далее
За сколько вы готовы купить GTA VI?
До 8000 рублей
1071 голос, 6.8%
До 7000 рублей
363 голоса, 2.3%
До 6000 рублей
471 голос, 3.0%
До 5000 рублей
1456 голосов, 9.3%
До 4000 рублей
497 голосов, 3.2%
До 3000 рублей
735 голосов, 4.7%
До 2000 рублей
1790 голосов, 11.4%
За любые деньги
854 голоса, 5.4%
Ни за сколько, я пират
8443 голоса, 53.8%
Теги: OpenAI, Технологии
Аватар Evernews
Evernews
8080 подписчиков