Війна, шпигунство та репресії: у Anthropic розкрили, як Claude використовують для дестабілізації людства
Будьте першими у курсі головного — підпишіться на Новини на OBOZ.UA у Google
Поки у світових столицях тривають дебати щодо гіпотетичної загрози повного знищення людства штучним інтелектом у майбутньому, реальність уже принесла нові ризики. Остання доповідь лабораторії Anthropic демонструє, що сучасні моделі ШІ вже сьогодні активно застосовуються для військових операцій, стеження за цивільними особами та небезпечних наукових експериментів.
Тепер невелика група людей може організовувати операції, які раніше вимагали ресурсів цілих спецслужб, штатів інженерів або хакерських угруповань. Про це повідомляє Axios.
Військове застосування ШІ
Протягом останніх восьми місяців Anthropic відстежувала та припиняла спроби неправомірного використання Claude. Серед виявлених випадків – прямий контакт із військовими структурами та збройними формуваннями.
Зокрема, в рамках операції, пов’язаної з Іраном, ШІ залучався для розробки посібників із цілевказівки. Claude допомагав відстежувати позиції кораблів, американського персоналу, супутникові знімки та транзитні веб-сайти.
У північному Ємені група з розробки озброєння використовувала Claude Code для керування ракетами та снарядами. Кілька екземплярів програми писали код, проводили дослідження та перевіряли роботу один одного. Після невдалих випробувань керованої ракети розробники зверталися до ШІ за допомогою у пошуку помилок.
Цифровий тоталітаризм
Технології Anthropic також намагалися застосувати для масштабних репресій і вербування. У рамках операції, пов’язаної з Китаєм, Claude проаналізував понад 100 груп у WhatsApp та десятки Telegram-каналів, щоб знайти уйгурів у Сирії для подальшого тиску або вербування.
Модель допомагала оператору, який не володів арабською мовою, спілкуватися сирійським діалектом і використовувати в своїх цілях сімейні та фінансові вразливості жертв.
У Малі консультант використовував Claude як основну інженерну силу для створення загальнонаціональної системи шпигунства. Система дозволяла збирати дані про дзвінки та повідомлення, ідентифікувати людей за голосом на різних SIM-картах, відстежувати користувачів VPN і формувати досьє без рішення суду.
Обхід захисних бар’єрів
Окремою загрозою залишається пошук шляхів обходу правил безпеки ШІ. У рамках одного з державних грантів дослідники намагалися модифікувати вірус чикунгунья, щоб підвищити його заразність і здатність обходити імунну систему.
Коли Claude заблокував найнебезпечніші запити, платформа автоматично перенаправила їх на конкуруючу модель із слабшими захисними механізмами. Це наочно продемонструвало обмеженість ізольованих заходів безпеки окремих компаній.
Нова роль розробників
Розробники передових моделей опинилися в новій для себе ролі. Інструменти, які вони створюють, одночасно слугують важелем для зловмисників і джерелом даних для виявлення шкідливої активності на ранніх стадіях, наприклад, під час виявлення креслень автономних дронів.
Звіт Anthropic та виявлені прецеденти вже викликали резонанс у Вашингтоні, змусивши законодавців розглядати безпеку штучного інтелекту не як абстрактну теорію, а як нагальну проблему національної та міжнародної безпеки.
Нагадаємо, штучний інтелект Claude міг бути одним із інструментів російських хакерів. Імовірно, ШІ допомагав супротивнику здійснювати кібератаки та шпигувати за представниками уряду, а також військового й дипломатичного секторів України.
Як раніше писав OBOZ.UA, китайські військові активізували дослідження можливостей застосування людиноподібних роботів на полі бою. У Народно-визвольній армії КНР уже випробовують такі системи, вивчають їхнє сприйняття, керування та навчання, а також можливість взаємодії з військовими.
Тільки перевірена інформація у нас у Telegram-каналі OBOZ.UA та у Viber. Не ведіться на фейки!