Google терміново скасував використання ШІ на картах Earth через "глобальні катастрофи". Фото

Google тимчасово вимкнув нову функцію штучного інтелекту в сервісі Google Earth, яка дозволяла створювати вигадані події на основі реальних супутникових карт. Рішення прийняли менш ніж через 48 годин після запуску інструменту через критику експертів і повідомлення про можливі зловживання.

Про закриття сервісу компанія повідомила після розслідування BBC Verify. Експерти OSINT попередили, що подібні матеріали можуть ускладнити перевірку інформації та використовуватися для поширення дезінформації.

Що відомо

Google відклала використання генератора зображеньNano Banana 2, інтегрованого в Google Earth, менш ніж через дві доби після його запуску. У компанії пояснили, що працюють над запровадженням "надійніших механізмів захисту" після того, як виявили випадки поширення користувачами згенерованих зображень, які могли порушувати правила платформи. У Google наголосили, що користувачі довіряють Google Earth як надійному джерелу інформації про світ, тому компанія вирішила призупинити роботу функції до посилення систем захисту.

Нова функція дозволяла за допомогою текстових запитів додавати вигадані об'єкти та події поверх реальних карт. Створені зображення можна було завантажувати та поширювати на інших платформах.

Під час тестування BBC Verify вдалося створити фальшиві знімки із зображенням зруйнованої Ейфелевої вежі, величезної вирви біля Великої піраміди в Гізі та російських танків у центрі Києва.

Експерт із питань штучного інтелекту та дезінформації Генк ван Есс також показав можливості інструменту, створивши зображення неіснуючої атомної електростанції в Ірані, табору біженців на кордоні США та Мексики та лікарні в Газі з вирвою від вибуху поруч.

Google повідомила, що контент, створений її інструментами штучного інтелекту, містить невидимі водяні знаки. Компанія також рекомендувала перевіряти сумнівні зображення через чат-бот Gemini або функцію Lens.

Втім, BBC Verify встановила, що ці механізми можна було обійти, а Gemini в окремих випадках помилково визначав фальшиві супутникові знімки як справжні. Деякі сторонні сервіси для виявлення ШІ-контенту також не змогли розпізнати окремі підроблені зображення.

Дослідник у сфері виявлення ШІ-контенту Генрі Адждер попередив, що поширення фальшивих супутникових знімків, особливо із зон бойових дій, може мати серйозні наслідки, адже не всі перевірятимуть їхню достовірність перед публікацією.

Як повідомляв OBOZ.UA, користувачі популярного чат-бота Claude від компанії Anthropic зіткнулися з несподіваною та неприємною проблемою. Їхні особисті та конфіденційні розмови зі штучним інтелектом почали відображатися у результатах пошукових систем Google та Bing.

Тільки перевірена інформація в нас у Telegram-каналі OBOZ.UA та у Viber. Не ведіться на фейки!