GPT генерация изображений: почему нейросети путают детали и логику

Изображение может выглядеть цельным и реалистичным, но при этом нарушать условие, которое было главным в запросе.

В этом и состоит неудобная особенность генерации графики искусственным интеллектом: качество картинки и точность выполнения инструкции — разные вещи. Чтобы понять, где именно возникают ошибки, я сравниваю сложность самого задания, результаты исследований отдельных моделей и те ограничения, которые разработчики перечисляют для своих систем. Здесь особенно важно не переносить выводы об одной версии на другую. У нейросети тоже есть история версий, и она влияет на то, о чём вообще можно делать выводы.

Картинка может быть убедительной, а композиция — неверной

Запрос на генерацию изображения часто содержит несколько задач одновременно. Нужно показать определённые объекты, правильно связать каждый с его признаками, разместить их в пространстве и собрать из них сцену. Например: красная чашка стоит слева от синей книги, а за ними находится открытое окно. Человек воспринимает это как одну короткую инструкцию. Для модели в ней несколько отдельных условий, которые требуется удержать вместе.

Именно такую нагрузку исследует бенчмарк T2I-CompBench. В нём 6 000 текстовых запросов, распределённых по трём крупным категориям: привязка атрибутов, отношения между объектами и сложные композиции. Внутри — шесть подкатегорий. Они охватывают цвета, формы и текстуры, пространственные и непространственные отношения, а также более сложные сцены.

Смысл такого теста прост: недостаточно сгенерировать красную чашку и синюю книгу. Нужно, чтобы красной была именно чашка, синей именно книга, чашка находилась слева, а не справа, и остальные объекты сцены не исчезли по дороге. В сложном запросе проверяется не наличие отдельных элементов, а согласованность всей конструкции.

Чем больше условий в одной фразе, тем больше мест, где результат может разойтись с заданием. Если модель нарисовала все объекты, но перепутала их признаки, часть запроса выполнена, часть — нет. Если объекты верны, но их расположение неверно, результат всё равно нельзя считать точным. Визуальная цельность здесь мало помогает: зритель может увидеть красивую сцену раньше, чем заметит, что именно в ней нарушено.

Реалистичность отвечает на вопрос «похоже ли это на картинку». Она не отвечает на вопрос «верно ли выполнено условие».

Поэтому выражение «нейросети для картинок ошибка генерации» описывает не один особый дефект, вроде лишнего пальца. Ошибка может находиться в связи между объектом и его признаком, в пространстве, в логике сцены или в точности редактирования. А заметность дефекта зависит от задачи. Для декоративной иллюстрации с произвольным расположением предметов перепутанная сторона может быть мелочью. Для схемы, учебной картинки или изображения с заданной последовательностью действий это уже центральный сбой.

Что показали тесты GPT‑4o и чего они не доказывают

В исследовании GPT‑4o, опубликованном в 2025 году, проверяли в том числе пространственные инструкции и логические условия. В отдельных тестах модель путала указания «слева» и «справа», а также не справлялась с абстрактным правилом, которое меняло значение этих слов. Это конкретный результат испытаний конкретной модели. Он не даёт основания утверждать, что все генераторы изображений одинаково ошибаются или что то же самое происходит с любой последующей версией.

Разница важна по технической и редакционной причине: в карточке ChatGPT Images 2.0, датированной 21 апреля 2026 года, разработчик описывает улучшения в следовании инструкциям и генерации деталей. Это характеристика новой версии, а не сопоставимое независимое измерение частоты ошибок в тех же самых тестах. Имеющиеся данные не позволяют поставить рядом GPT‑4o и Images 2.0 и объявить, насколько именно изменилась точность пространственных отношений.

В фактчекинге такая оговорка не украшает текст, а задаёт границы вывода. Если в исследовании проверяли GPT‑4o, мы называем GPT‑4o. Если описание системы сообщает об улучшении, мы передаём это как заявленное улучшение, не превращая его в числовой результат. Универсального процента ошибок для генерации изображений в доступных данных нет. Результат зависит от модели, версии, текста запроса и способа оценки.

Это ограничивает и обещания, которые можно давать пользователю. Можно сказать, что сложные пространственные инструкции были проблемой в отдельных тестах GPT‑4o. Нельзя на этом основании объявить, что любая современная модель обязательно путает левую и правую стороны. Можно отметить, что новые версии заявляют улучшенное следование инструкциям. Нельзя автоматически считать, что улучшение устранило все ошибки или одинаково работает для любой сцены.

При редактировании меняется иногда больше, чем просили

Сгенерировать картинку с нуля и отредактировать уже существующую — разные задачи. При редактировании нужно изменить заданный участок или объект, сохранив остальное. Пользователь может попросить поменять одежду одного человека, оставить фон нетронутым или скорректировать отражение, не трогая сам предмет.

В тестах GPT‑4o были случаи, когда при редактировании модели меняли лишние элементы. Например, запрос касался сидящих людей, но изменения затрагивали и стоящих на заднем плане. В другом тесте требовалось изменить отражение лошади, однако менялась и сама лошадь. Эти примеры показывают конкретную проблему: граница между тем, что нужно исправить, и тем, что должно остаться прежним, может не сохраниться.

Для пользователя такой результат особенно коварен. При создании с нуля несоответствие часто заметно как часть общей сцены. При редактировании картинка может выглядеть почти неизменной, а побочное изменение легко пропустить. Если изображение содержит важные для задачи детали — подписи, предметы, людей или элементы фона, — после правки приходится сравнивать весь кадр, а не только запрошенную область.

Практический способ проверки здесь вполне прозаичен: открыть исходник и результат рядом и сравнить участки, которые не упоминались в команде. Это не гарантирует, что все изменения будут заметны, но помогает не принимать успешную правку одного объекта за точное сохранение всей остальной сцены.

Особенно аккуратно нужно относиться к изображениям, используемым как документальное свидетельство. Если отредактированная картинка предъявляется как изображение реального события, визуальное сходство с исходником ещё не подтверждает, что остальное осталось нетронутым. Для проверки нужны происхождение изображения и независимые подтверждения контекста, а не только впечатление от результата.

Многошаговая команда проверяет не только рисунок

Запрос может задавать несколько действий с условием: поменять объект, если выполнено определённое требование, и сохранить фон, если оно не выполнено. Здесь модель должна правильно удержать последовательность и правило выбора. Сложность уже не сводится к тому, куда поставить чашку: нужно понять, какое действие допустимо при заданных условиях.

В одном из тестов GPT‑4o модель заменила объект и перенесла сцену на пляж, хотя, согласно постановке авторов испытания, условие для смены фона не выполнялось. Исследователи интерпретировали этот результат как затруднение с условными инструкциями и логической согласованностью. Это снова пример из теста конкретной модели, а не универсальный диагноз всем генераторам.

Такие задания полезны для понимания скрытой проблемы: длинная инструкция может казаться человеку простой, потому что он естественно связывает её части в одно правило. Но итоговое изображение само по себе не показывает, где именно команда потеряла смысл. Модель могла неверно определить условие, выполнить лишнее действие или изменить фон как побочный результат. По одной картинке нельзя уверенно восстановить внутреннюю причину сбоя.

Поэтому запросы для нейросетей разумно составлять так, чтобы ключевое условие было выражено явно и отделено от желательных деталей. Это не даёт гарантии безошибочности. Зато облегчает проверку: видно, какое действие было главным и какие элементы должны были остаться неизменными. Если задача критична, полезно разбить её на отдельные этапы, проверяя результат после каждого. Чем меньше условий нужно удержать одновременно, тем проще понять, на каком шаге возникло расхождение.

Это не универсальная инструкция к каждой генерации. Для свободной иллюстрации подробное дробление может быть излишним. Но при задании с условием, точным расположением и сохранением фона ясность команды помогает отделить ошибку текста от ошибки результата.

Улучшения версии не отменяют проверку изображения

В публикации о генерации GPT‑4o разработчик перечислял ограничения, связанные с обрезкой изображения, галлюцинациями, связыванием объектов с признаками, точным построением графиков, многоязычными надписями, точностью редактирования и мелким плотным текстом. Частоты ошибок по этим категориям публикация не приводила. Это перечень областей риска, а не таблица вероятностей.

В системной карточке ChatGPT Images 2.0 заявлены улучшения генерации деталей, плотного текста и следования инструкциям. Для режима Thinking описаны возможности веб-поиска и создания нескольких изображений по одному запросу. Эти функции расширяют набор действий, доступных системе, но не превращают каждую картинку в проверенный факт. Даже когда модель может искать сведения в интернете, результат генерации остаётся результатом генерации. Его связь с конкретным событием нужно устанавливать отдельно.

Это особенно существенно из-за роста реалистичности. В карточке Images 2.0 разработчик отдельно отмечает, что более убедительная генерация может повысить убедительность дипфейков людей, мест и событий. Значит, привычный аргумент «такое изображение выглядит настоящим» становится ещё слабее. Внешнее сходство не устанавливает происхождение файла.

NIST описывает несколько технических направлений для прозрачности синтетического контента: установление происхождения, маркировку, включая водяные знаки, и обнаружение синтетических изображений. Каждый подход полезен в своём контексте, но наличие таких методов не означает, что любую картинку можно надёжно распознать. После копирования или редактирования маркировка может не сохраниться; отсутствие видимого водяного знака не доказывает, что изображение создано человеком.

При проверке подозрительной картинки я разделяю три вопроса:

• Что именно изображено и какие детали можно независимо подтвердить?
• Откуда взялся файл, есть ли исходная публикация, более ранняя копия или надёжный контекст?
• Подтверждается ли событие другими материалами, не зависящими от этой картинки?

Метаданные, архивная копия и первоисточник могут помочь установить цепочку распространения, но отдельный сигнал редко решает задачу полностью. Метаданные иногда отсутствуют. Архивная копия показывает, что файл или публикация существовали к определённому моменту, но сама по себе не подтверждает содержание. Детектор синтетического изображения тоже не следует превращать в окончательный вердикт: технические методы обнаружения не обещают безошибочной классификации каждого файла.

Здесь и проходит граница между анализом качества и фактчекингом. Можно внимательно рассмотреть композицию и найти несогласованности. Можно обнаружить следы редактирования или маркировку происхождения, если они сохранились. Но вопрос о том, произошло ли событие на самом деле, требует подтверждений вне изображения.

Вывод: проверять нужно и инструкцию, и происхождение

Ошибки искусственного интеллекта в графике не сводятся к заметным артефактам. Модель может нарисовать правдоподобную сцену, но нарушить пространственное условие, перепутать признак объекта, изменить лишнюю часть кадра или выполнить действие, которое не разрешалось логикой команды. Исследования GPT‑4o дают конкретные примеры таких сбоев; описания ChatGPT Images 2.0 сообщают об улучшениях, но не дают сопоставимой частоты ошибок. Эти сведения нельзя склеивать в удобный, но ложный рейтинг.

При работе с генерацией я сначала сравниваю результат с формулировкой запроса: что должно быть в кадре, где это должно находиться, какие детали обязаны сохраниться. Затем проверяю сам файл и его происхождение, если изображение используют как свидетельство события. Такой порядок не делает проверку мгновенной. Зато он отделяет качество картинки от достоверности утверждения, которое к ней прикрепили.

Убедительное изображение может быть хорошей иллюстрацией. Фактом его делает только проверяемое происхождение и независимые подтверждения.