Роман Яненко

Журналист, председатель ОО "Carbon Free Ukraine"

Time to read9 мин
23,1 т.
Блог |

"Скайнет" по-украински: когда право убивать передадут ИИ?

Украинский БПЛА. Иллюстративное фото.

Источник: Генштаб ВСУ

В фантастических фильмах искусственный интеллект захватывает власть над оружием вопреки воле людей. В Украине может случиться наоборот: люди сами передадут ему право принимать смертельные решения. Не потому, что доверяют машинам. А потому, что больше не могут доверять связи.

Далее текст на языке оригинала.

І сказав Маск: хай буде темрява

Уявіть, що ви купили автомобіль. Потужний, надійний, здатний їхати куди завгодно. Але є нюанс: виробник залишив собі право дистанційно вимикати двигун. І одного дня, коли ви везете до лікарні поранену дитину, на екрані з'являється повідомлення: "Рух обмежено". Абсурд? Для української армії аж ніяк. 14 жовтня 2026 року українські військові зіткнулися з обмеженнями супутникового зв'язку Starshield – військової версії Starlink. За інформацією джерел у Міноборони, термінали втрачали з'єднання, коли швидкість їхнього руху перевищувала приблизно 160 км/год. Для автомобіля це порушення правил дорожнього руху. Для реактивного дрона-перехоплювача – наказ припинити роботу. Військові повідомляли про зірвані місії, втрачені дрони тощо. І все це – не внаслідок російської кібератаки чи роботи ворожої РЕБ. Обмеження "увімкнули" "партнери" по Будапештському меморандуму. Згодом скасували. 24 жовтня Міноборони повідомило про стабільний зв'язок навіть на швидкостях понад 400 км/год. Але історія залишила по собі "осад": іноземний постачальник технологій може впливати на боєздатність ЗСУ, навіть не торкаючись зброї. Причому це не перший тривожний дзвінок. У 2025 році Reuters опублікувало розслідування, згідно з яким Ілон Маск наказав обмежити покриття Starlink на окремих територіях під час українського контрнаступу восени 2022 року.

Є й інший випадок. Маск публічно визнав, що відмовився активувати Starlink поблизу окупованого Севастополя для української атаки на російський флот у 2022 році. Він пояснив це небажанням ставати співучасником масштабної ескалації. Виникає незручне питання: хто насправді визначає межі української самооборони? А звідси – народжується технологічний парадокс. Щоб менше залежати від рішень людей за океаном, Україна може почати більше залежати від рішень машин безпосередньо на полі бою. Вихід із цифрової залежності дедалі більше нагадує вхід в епоху військового штучного інтелекту. Зараз значна частина безпілотної війни нагадує комп'ютерну гру, в якій гравець бачить картинку через камеру дрона, вибирає ціль і скеровує апарат. Тільки ставки не віртуальні. Проблема полягає в тому, що між оператором і дроном існує технологічний пуповинний зв'язок. Його можна заглушити, перехопити або відключити. А на значних відстанях потрібно забезпечувати ще й супутниковий чи інший канал передачі інформації. Автономний дрон – інша річ. Йому не потрібно постійно запитувати людину, куди повернути або як утримати ціль у кадрі. Комп'ютер на борту аналізує зображення та керує польотом. Наступний, значно небезпечніший крок – навчити його самостійно вибирати, кого відправити на "той світ". Наразі маємо три рівні такої зброї:

  • Автоматизована: летить за заданим маршрутом або виконує наперед визначені команди, не змінюючи їх. Тобто рішення ухвалені людиною заздалегідь і закладені в програму польоту.
  • Напівавтономна: самостійно розпізнає чи супроводжує ціль, але рішення про атаку залишається за людиною. Звісно, за наявності зв’язку.
  • Повністю автономна щодо ураження: після активації сама знаходить, вибирає та атакує цілі в установлених межах (поки що) без додаткового людського дозволу.

Перші два рівні вже активно застосовуються. Третій – саме та небезпечна межа, навколо якої розгортаються міжнародні суперечки. І Україна, можливо, вже її перетнула. У червні 2026 року Ars Technica, посилаючись на New Scientist, повідомило про експеримент приблизно дворічної давнини. За словами українського підприємця Олександра Кохановського, безпілотники запрограмували вирушити в район бойових дій, де вони переходили в так званий режим "Термінатора" – самостійного пошуку й ураження цілей. Після експерименту інші дрони нібито виявили кількох загиблих російських військових.

За дослідженням американського Центру стратегічних і міжнародних досліджень CSIS, автоматизоване наведення на фінальній ділянці польоту дозволяло в окремих українських системах підвищувати успішність уражень приблизно з 10–20% до 70–80%. Це не означає, що будь-який дрон зі штучним інтелектом матиме таку ефективність. Але масштаби технологічного стрибка вражають. Там, де раніше для виконання завдання могли знадобитися вісім-дев'ять апаратів, іноді тепер достатньо одного-двох.

Що станеться, якщо супутниковий зв'язок зникне зовсім? Або коли в повітрі одночасно опиняться сотні цілей, кожна з яких потребуватиме миттєвого рішення? Людина стане так званим bottleneck для системи. Через свою біологію. Військові отримують надзвичайно спокусливий вибір: залишити людину в ланцюжку й ризикувати втратити секунди чи скоротити цей ланцюжок до одного кремнієвого мозку.

Народження "Скайнету": страшний сценарій без злих Т-800

Наступний епізод – поки наша уява. 2027 рік. Третя ночі. На російській військовій базі темно. Кілька машин рухаються десь у полі. На одній із них – пускова установка. На іншій, схоже, допоміжне обладнання. За кілька кілометрів маленький український безпілотник сканує місцевість. Зв'язку з оператором немає вже давно. Проте дрон продовжує місію. Його електронний мозок порівнює зображення з дата-базою військової техніки. Ймовірність розпізнавання – понад 94%. Ворог опізнаний – дрон летить на знищення. Але за секунду до удару біля машин з’являються якісь люди. Це військові? Чи цивільні?

Живий оператор, можливо, зупинив би атаку, щоб додатково роздивитися. Або, навпаки, вирішив би, що зволікання небезпечніше. Але оператора немає. Атаку дозволено. Спалах. За пів години на екрані українського командира з'являється звіт: "Ціль уражена". Він не знає, що саме побачила машина в останні секунди. Не знає, чи змінився її висновок після появи людей. Не знає навіть, чи справді це була пускова установка, а не схожа техніка чи хтось прикрутив на дах автівки муляж "на Вашингтон". І ніхто вже не може запитати дрон, чому він вирішив убити.

У фільмі "Термінатор" система "Скайнет" набуває самосвідомості й починає війну проти людства. У реальності нічого подібного не потрібно. Необов'язкові ні свідомість, ні ненависть, ні повстання роботів. "Скайнет" може виявитися не штучним інтелектом, який захопив владу, а системою, якій люди добровільно делегували так багато повноважень, що вже не встигають контролювати її рішення. Причому починатися все може з гуманної мети – захисту країни.

Уявімо ще одну ситуацію. Над Києвом летять російські ударні безпілотники. Українські автоматизовані перехоплювачі вже навчилися самостійно супроводжувати їх. Але людина все ще має підтвердити атаку. Одного разу через затримку зв'язку перехоплення зривається. Дрон-камікадзе влучає в житловий будинок. Гинуть люди. Наступного дня розпочинається дискусія: чи не варто дозволити системі самій ухвалювати рішення щодо чітко визначених повітряних загроз? І цього разу аргументи прихильників автономії будуть зовсім не про бажання створити роботів-убивць. Вони будуть про врятованих дітей. Тут виникає моральна пастка. Якщо алгоритм здатний перехопити ворожий дрон швидше за людину, чи морально змушувати його чекати дозволу? Але якщо дозволити самостійне ураження одних цілей, де встановити межу для інших? Між знищенням безпілотного "Шахеда" та самостійним рішенням атакувати людину існує величезна правова й етична різниця. Однак технологічний тиск на розширення автономії буде постійним.

Генеральний секретар ООН Антоніу Гутерріш сформулював свою позицію категорично: "Жодна машина не повинна вирішувати, кому жити, а кому помирати". Натомість Володимир Зеленській на тій же Генасамблеї ООН зазначив: "Уже наступного року існує реальна ймовірність, що рішення на полі бою почне ухвалювати штучний інтелект, а не лише люди". А все тому що, що у світі є держава, яка воює за власне існування. А їй протистоїть ошаленілий ворог, що невпинно нарощує кількість безпілотників, застосовує нові алгоритми і шукає способи обходити оборону. Що робити, якщо збереження повного людського контролю означатиме військове відставання? У цьому полягає справжня дилема автономної війни. Не "людина проти робота", а життя, які алгоритм може врятувати сьогодні, проти ризиків, які його безконтрольність створить завтра.

І ще одна незручна подробиця. Людина також помиляється. Втомлений оператор може сплутати ціль, командир – недооцінити ризик для цивільних, розвідник – неправильно інтерпретувати інформацію. Тому питання не можна звести до твердження, що люди завжди ухвалюють правильні рішення, а машини – неправильні. Набагато важливіше інше: чи можна перевірити рішення алгоритму, встановити відповідального за помилку і зупинити систему до того, як її помилка повториться тисячу разів? Один пілот може помилитися один раз. Один дефект алгоритму, встановленого на тисячах апаратів, здатний тиражувати ту саму помилку в промислових масштабах. Це вже не просто ризик хибного удару. Це серійне виробництво хибних рішень.

Найнебезпечніша гонка озброєнь: хто першим прибере людину з ланцюжка

У ХХ столітті наддержави змагалися кількістю ядерних боєголовок. У XXI столітті один із напрямів військового суперництва може вимірюватися кількістю рішень, які бойова система здатна ухвалити за секунду. І це змінює саму природу переваги на полі бою. Раніше армія нарощувала могутність, збільшуючи кількість танків, гармат і літаків. Тепер вона може отримати перевагу, вдосконаливши програмне забезпечення на вже наявній техніці. Той самий дрон, той самий двигун, та сама вибухівка. Але після оновлення алгоритму – зовсім інша зброя. Неначе танк після встановлення нової програми раптом навчився сам бачити, шукати укриття та переслідувати противника. Проте автономність створює ще одну, майже непомітну загрозу. Якщо одна держава дозволить своїм системам діяти самостійно, а інша вимагатиме людського підтвердження для кожного удару, друга ризикуватиме програвати в швидкості. Особливо під час масових атак, коли оператори фізично не здатні реагувати на все одночасно.

Поступово може виникнути небезпечний механізм примусу: держави передаватимуть машинам дедалі більше рішень не тому, що вважають це правильним, а тому, що боятимуться програти тим, хто зробив це раніше. Своєрідна гонка безлюдності – коли військова перевага визначається тим, наскільки далеко вдалося відсунути людину від останньої кнопки. У цієї гонки є кілька можливих наслідків:

  • Здешевлення смертельної сили. Автономні апарати не потребують постійного керування, тому великі групи безпілотників потенційно можна застосовувати з меншою кількістю операторів.
  • Збільшення масштабів атак. Обмеженням стає не людський ресурс, а насамперед виробництво дронів, програмне забезпечення й доступні обчислювальні потужності.
  • Нова вразливість. Помилка розпізнавання, несподівана поведінка алгоритму чи навмисне введення системи в оману можуть мати масові наслідки.
  • Розмиття відповідальності. Після незаконного удару доведеться з'ясовувати, хто винен: командир, розробник, виробник, той, хто визначив правила застосування, чи держава, яка дозволила використання системи.

Останній пункт особливо важливий. Міжнародне гуманітарне право нікуди не зникає після появи штучного інтелекту. Воно вимагає розрізняти військові й цивільні об'єкти, оцінювати пропорційність ударів і вживати запобіжних заходів для захисту цивільних. Відповідальність за застосування зброї залишається за людьми й державами. Але як реалізувати ці вимоги, якщо рішення про конкретне ураження ухвалила машина, а людина навіть не бачила цілі? Полковник Сергій Мінаєв – командир протиповітряної оборони в Запоріжжі у серпні цього року сказав: "За кілька років ми житимемо у фільмі "Термінатор". Це не жарт. Машини ухвалюють рішення завдавати ударів". Він заявив це, коментуючи розслідування загибелі трьох цивільних у Запоріжжі внаслідок удару російського безпілотника. За висновками фахівців, дрон застосовував експериментальну автономну систему для вибору конкретного об'єкта ураження. В пам’ять БПЛА просто заклали район атаки, а система вже самостійно вибрала конкретний об'єкт усередині цього периметра.

Україна вже живе в ситуації, де технологічна незалежність стає умовою виживання. Їй потрібно знищувати російські ракетні установки, перехоплювати безпілотники, захищати міста й водночас зменшувати залежність від рішень іноземних партнерів і "партнерів". Штучний інтелект здатний допомогти виконувати ці завдання. І в умовах війни розширення його ролі виглядає майже неминучим. Але повна автономія у виборі та знищенні людських цілей – не єдиний можливий шлях. Це окремий рубіж, переступати який не обов'язково лише тому, що технологія вже дозволяє це зробити.

Можливо, найбільша небезпека майбутнього навіть не в тому, що машини одного дня повстануть проти людства. Набагато реальніша загроза – людство поступово звикне до думки, що рішення про життя й смерть занадто важливі, складні та швидкі, щоб довіряти їх людям. Спочатку ми навчимо машини літати без нас. Потім – бачити без нас. Далі – оцінювати загрози без нас. І, зрештою, дозволимо їм убивати без нас.

І, можливо, найстрашніший момент в історії штучного інтелекту настане не тоді, коли машина вперше відмовиться виконувати наказ людини. А тоді, коли людина вперше сама вирішить, що її наказ більше не потрібен.

Важно: мнение редакции может отличаться от мнения автора. Редакция сайта не несет ответственности за содержание блогов, но стремится публиковать различные точки зрения. Подробнее о редакционной политике OBOZ.UA – по ссылке...