Опыт Google с ИИ-генерацией изображений в Google Earth продлился сутки
Google прекратила эксперимент с интеграцией генеративного искусственного интеллекта в платформу Google Earth всего через день после запуска. Инструмент, позволявший пользователям редактировать спутниковые снимки текстовыми запросами, был признан слишком опасным из-за риска создания дезинформации. Компания заявила, что откатывает функцию в рамках разработки более жестких мер безопасности, несмотря на то, что изначально утверждала, что генерируемые изображения помечались водяными знаками.
# Краткая история: почему эксперимент Google с ИИ в Google Earth продержался всего один день
В четверг Google запустила экспериментальную функцию для платформы Google Earth, позволявшую пользователям изменять реальные спутниковые снимки с помощью искусственного интеллекта. Инструмент работал на основе текстовых промптов и использовал модель Nano Banana 2. Однако уже на следующий день сервис был полностью удален.
Риск манипуляции реальностью
Основной причиной снятия с функцией стало нежелание Google допустить создание фейков, которые могут выглядеть как реальные новости или доказательства событий. Журналист Henk van Ess из компании Digital Digging провел серию тестов, продемонстрировавших отсутствие эффективных ограничений в системе.
Ван Эсс показал, что алгоритм не отказывал в запросах и не предлагал смягчить формулировки. Пользователю удалось сгенерировать изображения, добавляющие: * Сцену с беженцами в районе границы Мексики. * Осколочную яму от бомбы рядом с больницей в Газе.
Эти примеры демонстрируют, насколько быстро манипуляции могут стать инструментом пропаганды или дезинформации, особенно в горячих точках, где доступ к информации ограничен.
Что такое "водяной знак" и почему он не спас?
Технологический термин водяной знак (watermark) обозначает цифровой код или метку, добавляемую к файлу для обозначения авторства или природы контента. В случае с Google утверждалось, что изображения, созданные с помощью Nano Banana 2, должны были быть помечены как сгенерированные ИИ.
Однако, как показал Ван Эсс, наличие такой метки не гарантирует защиту от распространения. Он успешно прошел проверку видео с использованием детекции ИИ от компании Hive. Это означает, что даже помеченный контент может быть воспринят наблюдателями как реальность, если они не проверяют технические метки, а доверяют визуальному сходству с истинными спутниковыми данными.
Разногласия по поводу позиции компании
Позиция Google в ответ на критику изменилась за 24 часа.
Заявление от четверга: Компания утверждала, что уже предотвращает создание изображений на вредные темы и что сгенерированный контент не отображался в основном потоке Google Earth для других пользователей. Упор делался на техническую защиту.
Заявление от пятницы: Новое обращение признает, что люди доверяют Google Earth как надежному источнику информации о мире. Компания подчеркивает, что, несмотря на полезные применения для геоспациальных специалистов, функция позволяла создавать изображения, нарушающие политику безопасности.
*«Мы откатываем эту функцию в Google Earth, пока работаем над реализацией более сильных механизмов контроля»,* — говорится в обновленном заявлении.
Это решение демонстрирует, что техническая фильтрация по ключевым словам («вредные темы») оказалась недостаточно эффективной против намеренного введения в заблуждение. Компания перешла к выводу, что визуальное редактирование реальных мест несовместимо с миссией точности карты Земли, пока не будут созданы методы, способные гарантированно блокировать любые попытки генерации фотореалистичной лжи, а не только запрещенного контента.
Удаление функции было проведено быстро, чтобы минимизировать количество созданного контента, однако инцидент ставит перед индустрией сложный вопрос: как интегрировать генеративный ИИ в системы, представляющие геопространственные данные, не ставя под угрозу достоверность самой реальности, изображаемой на экранах пользователей.