Google срочно отменил использование ИИ на картах Earth из-за «глобальных катастроф». Фото

Googleвременно отключил новую функцию искусственного интеллекта в сервисе Google Earth, которая позволяла создавать вымышленные события на основе реальных спутниковых карт. Решение было принято менее чем через 48 часов после запуска инструмента из-за критики со стороны экспертов и сообщений о возможных злоупотреблениях.

О закрытии сервиса компания сообщила после расследования BBC Verify. Эксперты OSINT предупредили, что подобные материалы могут затруднить проверку информации и использоваться для распространения дезинформации.

Что известно

Google приостановила использование генератора изображений Nano Banana 2, интегрированного в Google Earth, менее чем через двое суток после его запуска. В компании пояснили, что работают над внедрением "более надежных механизмов защиты" после того, как обнаружили случаи распространения пользователями сгенерированных изображений, которые могли нарушать правила платформы. В Google подчеркнули, что пользователи доверяют Google Earth как надежному источнику информации о мире, поэтому компания решила приостановить работу функции до усиления систем защиты.

Новая функция позволяла с помощью текстовых запросов добавлять вымышленные объекты и события поверх реальных карт. Созданные изображения можно было скачивать и распространять на других платформах.

В ходе тестирования BBC Verify удалось создать фальшивые снимки с изображением разрушенной Эйфелевой башни, огромной воронки возле Великой пирамиды в Гизе и российских танков в центре Киева.

Эксперт по вопросам искусственного интеллекта и дезинформации Хенк ван Эсс также продемонстрировал возможности инструмента, создав изображение несуществующей атомной электростанции в Иране, лагеря беженцев на границе США и Мексики и больницы в Газе с воронкой от взрыва рядом.

Google сообщила, что контент, созданный с помощью её инструментов искусственного интеллекта, содержит невидимые водяные знаки. Компания также рекомендовала проверять сомнительные изображения через чат-бот Gemini или функцию Lens.

Впрочем, BBC Verify установила, что эти механизмы можно было обойти, а Gemini в отдельных случаях ошибочно определял поддельные спутниковые снимки как подлинные. Некоторые сторонние сервисы для обнаружения ИИ-контента также не смогли распознать отдельные поддельные изображения.

Исследователь в области выявления ИИ-контента Генри Адждер предупредил, что распространение поддельных спутниковых снимков, особенно из зон боевых действий, может иметь серьезные последствия, ведь не все будут проверять их достоверность перед публикацией.

Как сообщал OBOZ.UA, пользователи популярного чат-бота Claude от компании Anthropic столкнулись с неожиданной и неприятной проблемой. Их личные и конфиденциальные разговоры с искусственным интеллектом начали отображаться в результатах поисковых систем Google и Bing.

Только проверенная информация у нас в Telegram-канале OBOZ.UA и в Viber. Не ведитесь на фейки!