xAI обвинили в обучении Grok на материалах с сексуальным насилием над детьми

Предполагается, что нейросеть могла учиться на материалах из баз NCMEC.

Компанию xAI Илона Маска обвинили в использовании материалов с сексуальным насилием над детьми для обучения нейросети Grok. Иск подала женщина, обозначенная в документах под псевдонимом: она утверждает, что модель могла обучаться на реальных снимках пережитого ею в детстве насилия.

В начале 2000-х годов истица, на тот момент дошкольница, подвергалась насилию; записи выкладывались в сеть. Позднее цифровые отпечатки этих файлов внесли в базы Национального центра США по делам пропавших и эксплуатируемых детей (NCMEC) и Канадского центра защиты детей (CCCP).

Спустя два десятка лет CCCP уведомил истицу об обнаружении созданных ИИ материалов с ее изображением. В иске также утверждается, что в интернете нашли переписку злоумышленников, обсуждавших создание при помощи ИИ новых изображений с истицей и другими известными жертвами насилия.

Истица утверждает, что xAI обучала Grok на датасете с кадрами насилия над детьми, причем компании должно было быть известно о том, что это за кадры — соответствующие данные давно есть в базах правительственных агентств.

Теперь истица добивается превращения своего иска в коллективный — от имени всех людей, кадры с насилием над которыми могли использоваться для обучения ИИ. Также она требует выплатить компенсацию и обязать xAI удалить все материалы, связанные с насилием над детьми, — в том числе созданные ее моделями.

Еще одно требование — технически исключить возможность генерации такого контента новыми версиями моделей. Для этого xAI, видимо, придется серьезно пересмотреть фильтры своих нейросетей.