Армия США едва не вляпалась в неприятности с Китаем из-за ошибочного разведывательного отчета ИИ

Американские военные едва не провели операцию против китайского судна на Ближнем Востоке из-за ошибочного разведывательного отчета, составленного с помощью искусственного интеллекта. В документе утверждалось, что судно перевозит компоненты для ядерного оружия, однако впоследствии выяснилось, что ИИ неправильно определил груз.

Об этом сообщает CNN. По их данным, американские военные начали готовиться к перехвату судна: вооруженные военнослужащие готовились высадиться на борт, а военные самолеты уже находились в воздухе.

Как возникла ошибка в разведданных

Отчет был распространен среди американских военных весной, когда продолжалась война с Ираном. Он сразу вызвал беспокойство, поскольку речь шла о китайском судне, которое якобы перевозило материалы, связанные с ядерной программой.

Однако непосредственно перед запланированной операцией американские чиновники более тщательно проверили отчет. Тогда выяснилось, что аналитик Командования специальных операций США использовал чат-бота с искусственным интеллектом, который неправильно идентифицировал материал на борту судна.

Какой именно груз перевозило судно, CNN установить не удалось. Отчет оказался "полностью ложным", а ситуация "чуть не привела к войне", поскольку любая операция США против китайского судна могла перерасти в вооруженный конфликт между двумя странами.

Как выяснилось, аналитик направил запрос чат-боту относительно манифеста судна на основе данных Тихоокеанского командования специальных операций США, расположенного на Гавайях. Чат-ботобъединил разведданные из открытых источников с секретной радиоэлектронной разведкой и сделал ошибочный вывод. После этого аналитик с помощью ИИ оформил эти данные в стандартный разведывательный отчет и распространил его среди командования.

США активно внедряют ИИ

Американские военные и разведывательное сообщество пытаются использовать искусственный интеллект практически во всех сферах своей работы. Речь идет, в частности, об анализе больших объемов разведданных, выборе целей для ударов, а также о составлении бюджета, логистике и управлении цепочками поставок.

Быстрое внедрение ИИ объясняют тем, что технология может помочь военным быстрее принимать решения на поле боя — в частности, относительно того, какие цели атаковать и какие военные ресурсы перебрасывать.

В январе министр обороны США Пит Хегсет представил стратегию ускоренного внедрения искусственного интеллекта. Она предусматривает расширение использования ИИ в американском военном ведомстве.

В то же время процесс остается децентрализованным: различные подразделения правительства используют разные инструменты, приказы и стандарты безопасности. Единого набора стандартов для проверки информации, генерируемой этими системами, нет.

Случай с китайским судном показал еще один риск использования ИИ— люди могут принимать опасные решения на основе неточной или вводящей в заблуждение информации, созданной автоматизированными системами.

По словам одного из собеседников, подобные "галлюцинации" ИИ не являются единичным случаем в разведывательном сообществе. В то же время некоторые представители разведки считают, что искусственный интеллект создает дополнительное давление на аналитиков, заставляя их быстрее готовить и распространять разведданные, что увеличивает риск ошибок.

"Искусственный интеллект просто позволяет вам прийти к плохой идее значительно быстрее", — подытожил один из собеседников CNN.

Напомним, искусственный интеллект уже активно применяется в военных операциях. В частности, согласно данным доклада Anthropic, ИИ использовался в операции, связанной с Ираном, для отслеживания позиций кораблей, американского персонала, спутниковых снимков и транзитных веб-сайтов.

Как писал OBOZ.UA, российские хакеры пытались использовать ИИ Claude для кибератак и шпионажа против Украины. Искусственный интеллект применялся во время атак на украинских чиновников, военных и дипломатов.

Только проверенная информация у нас в Telegram-канале OBOZ.UA и в Viber. Не ведитесь на фейки!