Нейронка для генерации изображений: реальный кейс с ошибками в деталях

Анатомическая ошибка может быть признаком генерации, однако сама по себе ничего не доказывает.

Когда мы разбираем картинку, созданную искусственным интеллектом, полезно разделять два вопроса. Что именно изображено и откуда взялся файл? Первый касается содержания и его правдоподобия. Второй — происхождения: кто и каким инструментом создал изображение, сохранились ли данные об этом и не меняли ли файл по дороге. Смешивать их — верный способ принять странную тень за улику, а техническую отметку за доказательство правды.

Какие ошибки ищут в изображениях, созданных ИИ

Исследователи описывают ошибки нейросетей при создании рисунков не одной категорией «кривые руки». В работе, опубликованной в 2024 году, авторы выделили пять типов анатомических несоответствий:

• часть тела отсутствует;
• появляется лишняя часть;
• части тела неправильно соединены или смещены;
• нарушена ориентация;
• пропорции выглядят неверно.

Такая классификация полезнее привычного списка интернет-улик. Она заставляет описывать конкретную проблему: не «пальцы странные», а, например, кисть имеет лишний палец или сустав расположен так, что движение невозможно. Это уже наблюдение, которое можно сравнивать с другими признаками.

Но даже точное описание не устанавливает происхождение изображения. Редактирование, неудачная ретушь, компрессия и особенности ракурса тоже способны сделать детали неестественными. Кроме того, модели генерации меняются, а характерные ошибки одной версии не обязаны повторяться у другой.

В исследованиях фотореалистичных изображений, созданных диффузионными моделями, участники замечали и другие сбои: неправильные тени и отражения, физически неправдоподобное взаимодействие объектов, несостыковки между предметом и его окружением. Например, рука может держать вещь так, что хват не соответствует её форме; отражение — не совпадать с освещением; объект — выглядеть встроенным в сцену, хотя его тень живёт отдельно.

Это помогает сформулировать рабочую гипотезу. Если в одном изображении одновременно нарушены анатомия, освещение и логика взаимодействия предметов, версию о генерации стоит проверить. Но «стоит проверить» и «доказано» — разные статусы.

Артефакт показывает, где смотреть внимательнее. Происхождение файла он сам по себе не раскрывает.

Тени и физика сцены: полезные подсказки с коротким сроком годности

Генератор изображений нейросетью может создавать убедительную общую композицию, но отдельные отношения внутри неё оказываются менее устойчивыми. Объекты выглядят правдоподобно по отдельности, а вместе нарушают физику сцены. Свет падает с разных сторон, блики не соответствуют поверхностям, предмет будто касается стола, но не отбрасывает ожидаемую тень.

Такие несостыковки легче замечать, если проверять не «красивость» картинки, а причинные связи:

1. Сопоставляем источники света и тени. Если на лице свет идёт слева, а тень от предмета рядом указывает на иной источник, фиксируем несогласованность. Один источник света может давать сложный рисунок, поэтому ищем общий паттерн по сцене, а не оцениваем один участок.

2. Проверяем контакт объектов. Предмет, который лежит на поверхности или удерживается рукой, должен взаимодействовать с ней физически. Ищем зазоры, странные пересечения, невозможный хват, отсутствие контактной тени.

3. Сравниваем отражение с объектом. В отражении могут меняться форма, положение и яркость, но оно всё равно связано с геометрией поверхности и освещением. Несовпадение — повод изучить кадр, не готовый диагноз.

4. Смотрим на смысл сцены целиком. Отдельные элементы могут быть аккуратными, тогда как их сочетание невозможно: например, предмет расположен так, что персонаж не может до него дотянуться или использовать его заявленным образом.

В исследовании восприятия фотореалистичных изображений было собрано 749 828 наблюдений и 34 675 комментариев от 50 444 участников. Вывод для проверки здесь практический: способность распознавать синтетические изображения зависела от сложности сцены, вида артефактов, времени просмотра и отбора изображений человеком. Иными словами, впечатление «я сразу вижу нейросеть» зависит от того, что именно показали, как долго смотрели и какие примеры попали в набор.

Сложная сцена даёт больше мест для возможной ошибки, но одновременно усложняет оценку. На маленьком превью мы можем заметить общий контур, однако потерять мелкие детали. После сжатия часть артефактов исчезает, а часть возникает уже из-за обработки файла. Поэтому скриншот из соцсети — плохая основа для уверенного заключения о первоначальном изображении.

Почему визуальная странность не доказывает генерацию

Верификация изображения требует отделить признак от вывода. «У пальца неверная форма» — описание. «Изображение создано ИИ» — гипотеза о происхождении. Между ними нужны дополнительные данные.

Сначала выясняем, какой именно файл анализируем. Оригинал, повторно сохранённая картинка и скриншот могут иметь разное качество и разные метаданные. Затем ищем ранние публикации и версии изображения. Если доступен первоисточник, сравниваем его с копией: кадрирование, цвет, детали, подпись, контекст публикации. Архивная копия страницы иногда помогает установить, когда изображение уже находилось в открытом доступе, хотя сама по себе тоже не удостоверяет истинность подписи.

Дальше проверяем, есть ли у файла данные о происхождении. Их наличие может подсказать историю создания и редактирования. Их отсутствие не даёт обратного доказательства: метаданные удаляются при обработке и пересылке, а часть файлов изначально не содержит сведений о происхождении.

Наконец, рассматриваем визуальные признаки в совокупности. Ищем не один «лишний палец», а согласованный набор наблюдений: анатомические сбои, ошибки физики, несостыковки освещения, повторяющиеся особенности изображения. Даже такой набор повышает обоснованность подозрения, но не заменяет подтверждение происхождения.

Это особенно важно для новостных изображений. Картинка может быть настоящей, но сопровождаться ложной подписью; может быть изменена после съёмки; может быть сгенерирована, но использоваться как иллюстрация, а не как свидетельство события. Проверка подлинности ИИ-графики и проверка утверждения о событии — отдельные задачи. Вторая требует сопоставить подпись с независимыми источниками, временем, местом и контекстом.

Детекторы синтетических изображений: результат зависит от условий

Автоматический детектор может оценить, насколько изображение похоже на данные, на которых его обучали. Это не означает, что он безошибочно определяет авторство. По обзору NIST, точность зависит от самого инструмента и характеристик тестовых данных: сжатия, искажений, стиля и изображённых объектов.

Есть и проблема переноса между генераторами. Детектор, обученный распознавать изображения конкретной модели, лучше справляется с результатами этой модели, чем с изображениями других генераторов. Новая система может производить иные закономерности; обработка файла — ослабить старые. Поэтому уверенный процент в интерфейсе детектора не следует читать как вероятность, что перед нами именно ИИ-изображение, если методика и условия оценки неизвестны.

Если детектор и визуальный осмотр дают разные результаты, не выбираем удобный. Проверяем условия: какой файл загружен, насколько он сжат, меняли ли размер или цвет, на каких типах изображений проверен инструмент. Без этой информации результат детектора — сигнал, который надо интерпретировать, а не печать о подлинности.

SynthID и C2PA: что именно подтверждают цифровые маркеры

SynthID — невидимая водяная метка, которую Google встраивает в изображения, созданные моделями Imagen. Компания сообщает, что маркер можно обнаружить после некоторых распространённых изменений, включая фильтры, изменение яркости и сжатие JPEG. Но устойчивость к отдельным обычным операциям не означает защиты от любых вмешательств: Google DeepMind отдельно предупреждает, что экстремальные манипуляции могут нарушить обнаружение.

Значит, отсутствие найденного SynthID не позволяет заключить, что изображение создано человеком. Возможны и другие объяснения: использован другой генератор, файл изменён, маркер не применялся или инструмент проверки его не обнаружил. И обратный вывод тоже требует аккуратности: водяная метка указывает на связь с определённой системой маркировки, но не подтверждает правдивость того, что изображено.

Другой подход — C2PA Content Credentials. Этот стандарт описывает структуру данных с криптографической привязкой, которая может фиксировать происхождение цифрового материала и изменения. Проще говоря, такая запись помогает проверить целостность сведений о провенансе в пределах предусмотренной проверки. Она может рассказать, как формировалась история файла, если соответствующие данные были добавлены и сохранились.

Здесь важно не перепутать историю файла с истинностью его содержания. Content Credentials подтверждают корректность и отсутствие подделки данных провенанса в рамках проверки. Они не оценивают, правдивы ли утверждения, связанные с изображением, и не удостоверяют, что событие произошло именно так, как его описывает подпись.

У этих способов разные задачи. Водяной знак может помочь обнаружить маркировку конкретного происхождения. C2PA описывает проверяемые сведения о происхождении и изменениях. Визуальный анализ выявляет несостыковки. Ни один метод отдельно не закрывает вопрос полностью.

Когда я разбираю вирусную картинку, порядок поэтому остаётся простым: сохраняю доступную версию, ищу первоисточник, фиксирую визуальные признаки, проверяю доступные данные провенанса и смотрю, что именно способен подтвердить каждый инструмент. Если остаётся только странная тень или результат неизвестного детектора, корректный вывод тоже прост: происхождение не установлено. Это не эффектная развязка, зато она не превращает подозрение в факт.