Война, шпионаж и репрессии: в Anthropic раскрыли, как Claude используют для дестабилизации человечества
Будьте первыми в курсе главного – подпишитесь на Новини на OBOZ.UA в Google
Пока в мировых столицах продолжаются дебаты о гипотетической угрозе полного уничтожения человечества искусственным интеллектом в будущем, реальность уже принесла новые риски. Последний доклад лаборатории Anthropic демонстрирует, что современные модели ИИ уже сегодня активно применяются для военных операций, слежки за гражданскими лицами и опасных научных экспериментов.
Теперь небольшая группа людей могут организовывать операции, ранее требовавшие ресурсов целых спецслужб, штатов инженеров или хакерских группировок. Об этом сообщает Axios.
Военное применение ИИ
В течение последних восьми месяцев Anthropic отслеживала и пресекала попытки неправомерного использования Claude. Среди выявленных эпизодов – прямой контакт с военными структурами и вооруженными формированиями.
В частности, в рамках операции, связанной с Ираном, ИИ привлекался для разработки руководств по целеуказанию. Claude помогал отслеживать позиции кораблей, американского персонала, спутниковые снимки и транзитные веб-сайты.
В северном Йемене группа разработки вооружений использовала Claude Code для управления ракетами и снарядами. Несколько экземпляров программы писали код, проводили исследования и проверяли работу друг друга. После неудачных испытаний управляемой ракеты разработчики обращались к ИИ за поиском ошибок.
Цифровой тоталитаризм
Технологии Anthropic также пытались применить для масштабных репрессий и вербовки. В рамках связанной с Китаем операции Claude проанализировал более 100 групп в WhatsApp и десятки Telegram-каналов, чтобы найти уйгуров в Сирии для последующего давления или вербовки.
Модель помогала оператору, не владеющему арабским, вести коммуникацию на сирийском диалекте и использовать в своих целях семейные и финансовые уязвимости жертв.
В Мали консультант использовал Claude как основную инженерную силу для создания общенациональной системы шпионажа. Система позволяла собирать данные о звонках и сообщениях, идентифицировать людей по голосу на разных SIM-картах, отслеживать пользователей VPN и формировать досье без решения суда.
Обход защитных барьеров
Отдельной угрозой остается поиск путей обхода правил безопасности ИИ. В рамках одного из государственных грантов исследователи пытались модифицировать вирус чикунгунья, чтобы повысить его контагиозность и способность обходить иммунную систему.
Когда Claude заблокировал наиболее опасные запросы, платформа автоматически перенаправила их на конкурирующую модель со более слабыми защитными механизмами. Это наглядно показало ограничение изолированных мер безопасности отдельных компаний.
Новая роль разработчиков
Разработчики передовых моделей оказались в новой для себя роли. Инструменты, которые они создают, одновременно служат рычагом для злоумышленников и источником данных для выявления вредоносной активности на ранних стадиях, например, при обнаружении чертежей автономных дронов.
Отчет Anthropic и выявленные прецеденты уже вызвали резонанс в Вашингтоне, заставив законодателей рассматривать безопасность искусственного интеллекта не как абстрактную теорию, а как неотложную проблему национальной и международной безопасности.
Напомним, искусственный интеллект Claude мог быть одним из инструментов российских хакеров. Предположительно, ИИ помогал противнику проводить кибератаки и шпионить за представителями правительства, а также военного и дипломатического секторов Украины.
Как ранее писал OBOZ.UA, китайские военные активизировали исследования возможностей применения человекоподобных роботов на поле боя. В Народно-освободительной армии КНР уже испытывают такие системы, изучают их восприятие, управление и обучение, а также возможность взаимодействия с военными.
Только проверенная информация у нас в Telegram-канале OBOZ.UA и в Viber. Не ведитесь на фейки!
