Google открыла детектор ИИ-контента: он распознает изображения из ChatGPT и Gemini

Аналогичного детектора для текстов пока нет.

Google запустила сайт SynthID.com для проверки изображений, видео и аудио на наличие скрытых водяных знаков, встроенных ИИ-системой. Проверяется только наличие водяных знаков технологии SynthID, созданной Google.

Аналогичный сервис был реализован прямо в чат-боте Google, причем он показывал фрагмент изображения, созданный или доработанный с помощью ИИ. Сайт устроен проще: он лишь говорит, есть ли в контенте водяные знаки.

По данным Google, модели Gemini уже добавили SynthID более чем в 180 миллиардов изображений и видео, а также в аудиозаписи общей продолжительностью около 240 тысяч лет.

Помимо моделей самой компании, водяные знаки SynthID добавляются в контент, сгенерированный OpenAI, Nvidia и Kakao. В изображениях и видео сигнал кодируется в пикселях, в аудио — в форме звуковой волны.

Количество проверок ограничено: Google заявляет о ежедневной квоте в 10 изображений, видео или аудиофайлов на одного пользователя. Компания объясняет лимит необходимостью защитить технологию от попыток подобрать способ удаления водяных знаков.