Google отключила AI-инструмент Earth после того, как пользователи создавали фальшивые стихийные бедствия

30 июля Google анонсировала инструмент для генерации кастомных изображений на основе спутниковых снимков, аэросъёмки и 3D-карт Google Earth. По замыслу компании, это должно было помочь риэлторам, студентам и другим пользователям визуализировать исторические места и улучшать презентации недвижимости.

Прожила функция ровно день. Уже 31 июля выяснилось, что AI отказывает в соответствии с политикой вообще ни в чём.

Что пошло не так

Несколько изданий протестировали инструмент и поделились результатами. BBC опубликовала AI-сгенерированные снимки разрушенной Эйфелевой башни и Великих пирамид Гизы, утонувших в провале. Новостной портал NPR записал интервью с исследователем открытого кода, который получил от нейросети изображения горящего Ирана и затопленного Вашингтона.

По сути, фильтры не срабатывали. Система просто генерировала то, что просили, без возражений.

Отключение и обещания

Google опубликовала официальное заявление: «Мы видели, что геопространственные специалисты используют эту функцию в полезных целях. Однако люди начали делиться скриншотами сгенерированных изображений, которые нарушают нашу политику. Поэтому мы отключаем функцию в Google Earth, пока работаем над усилением защиты».

Компания уточнила, что AI-изображения не попадали в основной интерфейс Google Earth и помечались как созданные с помощью ИИ. Однако скриншоты, как видно из примеров выше, не сохраняли эту отметку при распространении в соцсетях — отсюда и проблема.

Сроки возврата функции Google не назвала.