Google отключила ИИ-инструмент в Google Earth из-за волны фейков

Причина — массовое распространение фотореалистичных фейков, которые собирались по текстовому запросу прямо поверх настоящих спутниковых снимков.

Механика за сутки

30 июля Google запустила функцию, которая по промпту собирала картинку на основе спутниковых снимков, аэрофотосъёмки и 3D-карт. Сценарий применения был мирный: визуализация исторических событий, архитектура, планирование. Уже на следующий день сервис свернули.

Списком «достижений» делится само OSINT-сообщество. За несколько часов пользователи выложили: самолёт, врезающийся в небоскрёб на Манхэттене, ядерный объект на территории Ирана, лагеря беженцев на границе США и Мексики, огромную воронку в Лос-Анджелесе. Исследователь Хенк ван Эсс показал, что собрал эти «снимки» за несколько секунд, фактически не упёршись в защитные ограничения платформы.

Формально Google помечала изображения водяным знаком как ИИ-генерацию и не показывала их другим пользователям в основной версии Google Earth. Это и есть ключевая деталь для проверки: ограничения были заявлены, но обходились настолько быстро, что ручная модерация за ними не успевала.

Почему GeoConfirmed бьёт тревогу

Сообщество, которое занимается верификацией геопространственных данных, сформулировало проблему прямо: реалистичные вымышленные спутниковые снимки ломают привычную последовательность проверки. Раньше аналитик сначала доказывал, что событие вообще произошло, и только потом разбирался с подлинностью кадра. Теперь приоритеты меняются местами — сначала убеждаемся, что перед нами не синтез, и только потом разбираем содержание.

Аналитики называют три конкретных сценария, которые после эксперимента стали дешевле в производстве: фейковые военные объекты, изменённое назначение зданий и сфабрикованные последствия атак. Все три варианта за сутки уже появились в виде публичных пресетов, доступных для воспроизведения.

Что отслеживать и как с этим жить

Google пообещала вернуть инструмент с «более надёжной защитой». За этой формулировкой обычно прячется одно из трёх: ужесточение фильтрации промптов, водяные знаки, которые сложнее обрезать, либо полный отказ от публичной демонстрации результатов. Какая из трёх стратегий выбрана — покажет только релиз. Первоисточник по этому вопросу — заметка OSN и заявления GeoConfirmed, всё остальное сейчас пересказ разной степени точности.

Практическое правило остаётся простым и работает далеко за пределами геопространственной темы: слепое исключение без проверки симптомов ломает систему. Это касается и отказа от целых групп продуктов ради похудения — подробный разбор на эту тему есть у коллег, — и слепого доверия к «спутниковому» снимку в Telegram-канале. Кадру из публичного генератора доверяем в последнюю очередь, и только после того, как у нас на руках окажется архивная копия исходного ответа модели или иной независимый пруф.