ChatGPT считает примерного семьянина убийцей, он требует почистить память ИИ

Сложно сказать, есть ли у OpenAI такая возможность.

Житель Норвегии Арве Хьялмар Хольмен требует от OpenAI скорректировать базу знаний чат-бота ChatGPT и других продуктов компании. Хольмен обнаружил, что чат-бот считает его убийцей.

Вбив свое имя в интерфейс чат-бота, Хольмен выяснил, что был приговорен к 21-летнему тюремному сроку за убийство двух собственных детей и попытку убийства третьего ребенка. У норвежца действительно есть дети, но он их не убивал.

Примечательно, что в ответе ChatGPT вымышленная история об убийствах соседствовала с реальными данными вроде названия города, где живет Хольмен (Тронхейм), и количества его детей (их действительно трое).

Хольмен потребовал у OpenAI не просто скорректировать ответы ChatGPT, а целиком удалить недостоверную информацию из базы данных модели. Как минимум первую часть требований компания выполнила: ChatGPT больше не обвиняет Хольмена в убийстве.

Насчет второй части ясности нет. Как отмечает ArsTechnica, прежде представители OpenAI говорили, что можно только блокировать вывод определенной информации, а не целиком убирать ее из памяти нейросети. Хольмена не устраивает такой вариант.

Европейский центр борьбы за цифровые права NOYB, представляющий интересы Хольмена, считает, что в случае неудаления этих данных OpenAI может нарушить GDPR — общий регламент по защите данных Евросоюза. За его нарушение предусмотрены внушительные штрафы: до 20 миллионов евро или до 4% от годового оборота компании во всем мире.