Google отключила генератор снимков Nano Banana в Google Earth из-за фейков

Google снова отступила перед искусственным интеллектом. На этот раз жертвой собственной осторожности стал картографический сервис Google Earth. Компания планировала внедрить в него генератор изображений Nano Banana (да, это официальное название) для образовательных целей и визуализации строящихся зданий. Но не прошло и пары дней, как функцию пришлось отозвать. Причина банальна и пугающа одновременно — люди начали использовать ИИ для создания фейковых спутниковых снимков.

Случилось то, о чем предупреждали скептики: инструмент, созданный для добра, мгновенно превратили в оружие дезинформации. Компания Bloomberg сообщает, что модерация не справилась с потоком контента, нарушающего политику сервиса. Самое интересное — ни один из этих снимков не попал в публичную версию Google Earth. Но сам факт того, что пользователи нашли лазейку, заставил корпорацию пересмотреть планы. Механизмы безопасности решено дорабатывать. Сроки возвращения функции неизвестны.

В чем суть проблемы

Nano Banana — это не просто фильтр для фото. Это нейросеть, способная генерировать фотореалистичные изображения с высоким разрешением. В связке с картографическими данными она позволяла «достраивать» реальность. Хочешь увидеть, как будет выглядеть новый квартал? Пожалуйста. Хочешь показать, что на месте пустыря выросла атомная станция? Тоже без проблем.

Первым тревогу забил нидерландский исследователь Хенк ван Эсс. В своем блоге он продемонстрировал, как легко можно создать убедительные фейки. Его пример с иранской атомной станцией — это не гипотетическая угроза, а рабочий прототип злоупотребления. Ван Эсс прав: если такие инструменты останутся в свободном доступе, работа журналистов и аналитиков превратится в кошмар. Доверять спутниковым снимкам станет невозможно в принципе.

Почему это важно для всех нас

Мы привыкли думать, что фейки — это удел текстов и видео. Но геоданные всегда считались эталоном объективности. Карта — это документ. Теперь этот документ можно подделать так, что эксперт не отличит подлинник от генерации. Это подрывает основы не только журналистики, но и градостроительства, логистики и даже военного планирования.

Недавно я заметил тревожную тенденцию в своей ленте: даже обычные пользователи начали публиковать «фото» городов будущего, сгенерированные нейросетями, выдавая их за проекты архитекторов. Люди верят глазам. А глаза теперь обмануть проще простого. Мы движемся к миру, где визуальный факт перестает быть фактом. И отмена Nano Banana в Google Earth — это попытка залатать дыру в плотине, которая уже трещит по швам.

Как это работает и что будет дальше

Механика проста: нейросеть обучается на реальных спутниковых снимках и затем дорисовывает детали по запросу. Проблема в том, что алгоритмы фильтрации не успевают отличать «разрешенную» генерацию (например, новое здание) от «запрещенной» (например, военный объект). Google придется внедрять цифровые водяные знаки или ограничивать доступ к функции по геолокации. Но это лишь вопрос времени.

Пока Google будет думать, другие сервисы подхватят эстафету. Уже сейчас существуют открытые модели, способные на подобные трюки. Вопрос не в том, появятся ли фейковые спутниковые снимки в открытом доступе. Вопрос в том, когда человечество выработает иммунитет к визуальной лжи.

Мое мнение: Google поступила правильно, но запоздало. Нужно было думать о рисках до запуска, а не после. Однако сам факт отмены — хороший сигнал. Это значит, что корпорации пока еще боятся потерять доверие пользователей. Но надолго ли их хватит? Конкуренция заставит кого-то рискнуть. И тогда мы получим мир, где спутниковые снимки придется проверять так же тщательно, как банкноты.

Пока же у нас есть небольшой тайм-аут. Используйте его с умом: не верьте картинкам из интернета без проверки источника. Даже если они выглядят как вид из космоса.

По материалам: 3DNews