Google за сутки отключила новую ИИ-функцию в Google Earth из-за риска появления поддельных спутниковых снимков

На этой неделе Google анонсировала новую функцию для Google Earth, которая позволяла с помощью модели Nano Banana 2 генерировать изображения на основе спутниковых, аэрофотографических и трехмерных карт местности. Однако уже на следующий день компания решила отозвать новинку после критики со стороны журналистов и исследователей. Об этом пишет Cnet.

Смотрите также: ЕС готовит крупнейший в истории штраф для Google: почему "провинилась" компания

Почему Google так быстро отказалась от новой функции?

Изначально Google предлагала использовать инструмент для творческих и образовательных целей. Например, пользователи могли создавать собственные инфографики о местах, в которых еще не бывали, представлять, как та или иная территория выглядела много лет назад, или моделировать будущие изменения, в частности появление новой инфраструктуры или даже собственного дома.

Функция работала только в настольной версии Google Earth. После выбора локации пользователь мог нажать кнопку Create Image, ввести текстовый запрос и через несколько минут получить сгенерированное изображение, которое можно было редактировать и сохранять в собственном проекте.

Эксперты предупредили об опасности дезинформации

Практически сразу после запуска исследователи обратили внимание на потенциальные риски нового инструмента. Наибольшее беспокойство вызвала возможность создавать очень реалистичные, но полностью вымышленные спутниковые снимки.

Расследователь Хенк ван Эсс в своем информационном бюллетене Digital Digging продемонстрировал, что сервис способен без особых трудностей генерировать правдоподобные объекты, которых на самом деле не существует. В качестве примера он привел вымышленную атомную электростанцию в Иране.

"Google двадцать лет создавала источник, с помощью которого весь мир проверяет факты. Сегодня она добавила кнопку, которая придумывает реальность", – написал ван Эсс.

По мнению критиков, подобные возможности могут значительно упростить создание дезинформации, манипулятивных материалов или ложных доказательств, особенно если изображения будут распространяться в социальных сетях без надлежащего контекста.

Google пообещала усилить защиту

После волны критики Google сообщила в соцсети X, что временно отключает новую функцию.

"Мы отключаем эту функцию в Google Earth, пока работаем над внедрением более надежных механизмов защиты", – заявила компания.

В то же время Google подчеркнула, что изображения, созданные искусственным интеллектом, не отображались в общедоступной версии Google Earth и были помечены водяными знаками, указывающими на их ИИ-происхождение.

Почему проблема все равно остается актуальной?

Несмотря на наличие водяных знаков, эксперты отмечают, что это недостаточно для предотвращения возможных злоупотреблений. Сгенерированные изображения можно было сохранить, сделать их скриншот или поделиться проектом с другими людьми.

Подобные инструменты уже давно существуют в сервисах вроде Midjourney или Canva. Однако интеграция такой функции непосредственно в Google Earth вызвала гораздо большее беспокойство, ведь этот сервис на протяжении многих лет считается одним из самых авторитетных источников картографической и спутниковой информации.

Именно поэтому появление инструмента, способного создавать правдоподобные, но вымышленные спутниковые изображения, поставило под сомнение грань между реальными данными и контентом, созданным искусственным интеллектом. В результате Google решила приостановить запуск функции и доработать систему защиты перед ее возможным повторным запуском.