ChatGPT поймали на обмане: выяснилось, как искусственный интеллект помогает мошенникам

Искусственный интеллект стал новым инструментом в руках кибермошенников. Злоумышленники научились встраивать фейковые интернет-магазины непосредственно в поисковые результаты популярного ИИ-ассистента ChatGPT. Жертвами схемы становятся пользователи, которые просят чат-бота посоветовать товары или бренды для покупок.

Об этом, как сообщает The Guardian, предупреждают эксперты по безопасности сервиса Ask Silver. Они зафиксировали случаи, когда искусственный интеллект при поиске информации выдавал ссылки на клонированные сайты известного британского бренда обуви и сумок и мебельного ритейлера.

Как работает схема "отравления" ИИ

Эксперты объясняют, что мошенники применили так называемую тактику data poisoning ("отравление данных"). Схема действует следующим образом:

• злоумышленники массово создают в интернете сайты-клоны, которые копируют дизайн известных брендов;
• сканируя сеть для обновления своих знаний, искусственный интеллект изучает этот вредоносный контент, считая его настоящим;
• ИИ начинает рекомендовать вредоносные сайты пользователям, генерируя вполне адекватный ответ с ценами и трендами.

Главные маркеры фейка

Мошеннические ресурсы выглядят очень убедительно и профессионально, но их выдают несколько деталей. Эксперты советуют в первую очередь обращать внимание на:

• аномальные скидки – на сайтах предлагают брендовые вещи со скидками до 80%;
• подозрительный URL-адрес – мошенники используют названия, похожие на оригинальные, но с добавлением лишних слов;
• способ оплаты – фальшивые сайты часто требуют исключительно прямой банковский перевод на карту или счет вместо стандартной и безопасной онлайн-оплаты через платежный шлюз.

Главная цель таких ресурсов – не просто забрать деньги за товар, а полностью похитить ваши банковские реквизиты (номер карты, срок действия, CVV-код) для дальнейшего списания средств.

Правила безопасного онлайн-шопинга

Специалисты из National Trading Standards предостерегают: ни в коем случае нельзя доверять сайту только потому, что его порекомендовал искусственный интеллект. Преступники адаптируются к новым технологиям так же быстро, как и разработчики. Чтобы безопасно покупать в интернете, следует придерживаться правил цифровой гигиены:

• избегайте слов-ловушек в адресной строке – остерегайтесь дополнительных слов в названии сайта, таких как official, online или sale;
• не переходите по ссылкам из чата – вместо того, чтобы кликать по источникам, которые подтянул ИИ, вводите адрес официального сайта нужного бренда вручную через поисковик;
• ищитепервоисточник – покупайте товары либо на официальных сайтах, либо через верифицированных ретейлеров.

Что делать, если вы ввели данные на фейковом сайте? Немедленно заблокируйте карту через мобильный банкинг, сообщите свой банк о компроминации данных и обратитесь в Киберполицию.

Ранее OBOZ.UA уже сообщал, что мошенники в Украине также начали активнее использовать искусственный интеллект для создания фейковых звонков, сообщений, поддельных сайтов и мошеннических онлайн-предложений, которые все труднее отличить от настоящих. ИИ в целом помог мошенникам масштабировать уже знакомые схемы.

Только проверенная информация у нас в Telegram-канале OBOZ.UA и в Viber. Не ведитесь на фейки!