Google за добу вимкнула нову ШІ-функцію в Google Earth через ризик фейкових супутникових знімків
Google представила нову функцію на основі штучного інтелекту для Google Earth, однак вона пропрацювала лише близько доби. Причиною стали побоювання експертів, що інструмент може використовуватися для створення переконливих фейкових супутникових зображень.
Цього тижня Google анонсувала нову можливість для Google Earth, яка дозволяла за допомогою моделі Nano Banana 2 генерувати зображення на основі супутникових, аерофотографічних і тривимірних карт місцевості. Однак уже наступного дня компанія вирішила відкликати новинку після критики з боку журналістів і дослідників. Про це пише Cnet.
Дивіться також ЄС готує найбільший в історії штраф для Google: в чому "провинилась" компанія
Чому Google так швидко відмовилася від нової функції?
Спочатку Google пропонувала використовувати інструмент для творчих і навчальних сценаріїв. Наприклад, користувачі могли створювати власні інфографіки про місця, які ще не відвідували, уявляти, як певна територія виглядала багато років тому, або моделювати майбутні зміни, зокрема появу нової інфраструктури чи навіть власного будинку.
Функція працювала лише в настільній версії Google Earth. Після вибору локації користувач міг натиснути кнопку Create Image, ввести текстовий запит і за кілька хвилин отримати згенероване зображення, яке дозволялося редагувати та зберігати у власному проєкті.
Експерти попередили про небезпеку дезінформації
Практично одразу після запуску дослідники звернули увагу на потенційні ризики нового інструмента. Найбільше занепокоєння викликала можливість створювати дуже реалістичні, але повністю вигадані супутникові знімки.
Розслідувач Генк ван Есс у своєму інформаційному бюлетені Digital Digging продемонстрував, що сервіс здатний без особливих труднощів генерувати правдоподібні об'єкти, яких насправді не існує. Як приклад він навів вигадану атомну електростанцію в Ірані.
"Google двадцять років будувала джерело, за яким увесь світ перевіряє факти. Сьогодні вона додала кнопку, яка вигадує реальність", – написав ван Есс.
На думку критиків, подібні можливості можуть значно спростити створення дезінформації, маніпулятивних матеріалів або неправдивих доказів, особливо якщо зображення поширюватимуться в соціальних мережах без належного контексту.
Google пообіцяла посилити захист
Після хвилі критики Google повідомила в соцмережі X, що тимчасово вимикає нову функцію.
"Ми відкочуємо цю функцію в Google Earth, поки працюємо над впровадженням сильніших механізмів захисту", – заявила компанія.
Водночас Google наголосила, що створені штучним інтелектом зображення не відображалися у загальнодоступній версії Google Earth і були позначені водяними знаками, які вказували на їхнє ШІ-походження.
Чому проблема все одно залишається актуальною?
Попри наявність водяних знаків, експерти зазначають, що цього недостатньо для запобігання можливим зловживанням. Згенеровані зображення можна було зберегти, зробити їхній знімок екрана або поділитися проєктом з іншими людьми.
Подібні інструменти вже давно існують у сервісах на кшталт Midjourney чи Canva. Проте інтеграція такої функції безпосередньо в Google Earth викликала значно більше занепокоєння, адже цей сервіс багато років вважається одним із найавторитетніших джерел картографічної та супутникової інформації.
Саме тому поява інструмента, який може створювати правдоподібні, але вигадані супутникові зображення, поставила під сумнів межу між реальними даними та контентом, створеним штучним інтелектом. У результаті Google вирішила призупинити запуск функції та доопрацювати систему захисту перед її можливим повторним випуском.