Армія США ледь не втрапила у халепу з Китаєм через помилковий розвідувальний звіт ШІ

Американські військові ледь не провели операцію проти китайського судна на Близькому Сході через помилковий розвідувальний звіт, створений за допомогою штучного інтелекту. У документі стверджувалося, що судно перевозить компоненти для ядерної зброї, однак згодом з'ясувалося, що ШІ неправильно визначив вантаж.

Про це повідомляє CNN. За їхніми даними, американські військові почали готуватися до перехоплення судна: озброєні військовослужбовці готувалися висадитися на борт, а військові літаки вже перебували в повітрі.

Як виникла помилка в розвідданих

Звіт поширили серед американських військових навесні, коли тривала війна з Іраном. Він одразу викликав занепокоєння, оскільки йшлося про китайське судно, яке нібито перевозило матеріали, пов'язані з ядерною програмою.

Однак безпосередньо перед запланованою операцією американські посадовці детальніше перевірили звіт. Тоді з'ясувалося, що аналітик Командування спеціальних операцій США використовував чат-бот зі штучним інтелектом, який неправильно ідентифікував матеріал на борту судна.

Який саме вантаж перевозило судно, CNN встановити не вдалося. Звіт був "повністю неправдивим", а ситуація "майже розпочала війну", оскільки будь-яка операція США проти китайського судна могла перерости у збройний конфлікт між двома країнами.

Як з'ясувалося, аналітик направив запит чат-боту щодо маніфесту судна на основі даних Тихоокеанського командування спеціальних операцій США, розташованого на Гаваях. Чат-бот об'єднав розвіддані з відкритих джерел із секретною радіоелектронною розвідкою та зробив хибний висновок. Після цього аналітик за допомогою ШІ оформив ці дані у стандартний розвідувальний звіт і поширив його серед командування.

США активно впроваджують ШІ

Американські військові та розвідувальна спільнота намагаються використовувати штучний інтелект практично в усіх сферах своєї роботи. Йдеться, зокрема, про аналіз великих обсягів розвідданих, вибір цілей для ударів, а також бюджетування, логістику та управління ланцюгами постачання.

Швидке впровадження ШІ пояснюють тим, що технологія може допомогти військовим швидше ухвалювати рішення на полі бою – зокрема щодо того, які цілі атакувати та які військові ресурси переміщувати.

У січні міністр оборони США Піт Гегсет представив стратегію прискореного впровадження штучного інтелекту. Вона передбачає розширення використання ШІ в американському військовому відомстві.

Водночас процес залишається децентралізованим: різні частини уряду використовують різні інструменти, накази та стандарти безпеки. Єдиного набору стандартів для перевірки інформації, яку генерують ці системи, немає.

Випадок із китайським судном показав ще один ризик використання ШІ – люди можуть ухвалювати небезпечні рішення на основі неточної або оманливої інформації, створеної автоматизованими системами.

За словами одного зі співрозмовників, подібні "галюцинації" ШІ не є поодиноким випадком у розвідувальній спільноті. Водночас деякі представники розвідки вважають, що штучний інтелект створює додатковий тиск на аналітиків, змушуючи їх швидше готувати та поширювати розвіддані, що збільшує ризик помилок.

"Штучний інтелект просто дозволяє вам дійти до поганої ідеї значно швидше", – підсумував один із співрозмовників CNN.

Нагадаємо, штучний інтелект уже активно застосовують у військових операціях. Зокрема, за даними доповіді Anthropic, ШІ використовували в операції, пов'язаній з Іраном, для відстеження позицій кораблів, американського персоналу, супутникових знімків та транзитних вебсайтів.

Як писав OBOZ.UA, російські хакери намагалися використовувати ШІ Claude для кібератак і шпигунства проти України. Штучний інтелект застосовували під час атак на українських урядовців, військових і дипломатів.

Тільки перевірена інформація в нас у Telegram-каналі OBOZ.UA та у Viber. Не ведіться на фейки!