Активисты: "роботы-убийцы" появятся уже через несколько лет и будут очень опасны

Эксперты в области искусственного интеллекта, юристы и активисты устроили Всемирную кампанию "Остановите роботов-убийц" в Организации Объединенных Наций, чтобы предупредить жителей планеты об опасности растущей зависимости от дешевых беспилотных летательных аппаратов и "глупого Искусственного интеллекта", который может непредсказуемо себя повести в реальном мире.

Как пишет британское издание The Guardian, Тоби Уолш, профессор в области искусственного интеллекта из университета Нового Южного Уэльса в Австралии, упоминая фантастического киборга с задачей по уничтожению человечества, сказал репортерам: "Люди часто вспоминают Терминатора, но об этом нам пока не стоит волноваться. Подобная платформа вряд ли появится в ближайшие 50 лет".

"Нас волнуют технологии, которые станут доступными, в лучшем случае, через несколько лет. С полуавтономными системами, такими как беспилотные летательные аппараты, будет несложно полностью исключить человека из цикла принятия решений, и заменить его компьютером", - добавил Уолш.

Читайте: Готовим "роботапок": Россия похвасталась военным роботом-тараканом. Фото "насекомого"

Между тем, участники кампании обрисовали страшную картину ничем не ограниченной власти искусственного интеллекта, массово задействованного на полях сражений и для охраны национальных границ. В отличие от того же ядерного оружия, ресурсы, необходимые для создания "роботов-убийц", со временем будут становиться все дешевле и доступнее: достаточно будет зайти в онлайн-магазин, купить беспилотник, смартфон, установить на них соответствующие программы – и вот готов ваш собственный "маленький робот-убийца".

Кроме того, учитывая продвинутые разработки США и Великобритании, эксперты предположили, что "роботы-убийцы" будут иметь больше общего с АК-47, чем с ядерными бомбами.

"Их будут использовать для охраны границ, порядка, подавления протестов, а не только в вооруженных конфликтах. Физические платформы уже существуют. Это не научная фантастика, а совершенно новый способ ведения войны, который революционизирует ее", - заявил Стив Гуз, директор отдела вооружений в Human Rights Watch.

Также эксперт добавляет, что "если мы не создадим правил, в конечном итоге мир поглотит гонка вооружений, конечная точка которой окажется весьма неприятной".

Читайте: Итальянский робот-ребенок произвел фурор

Профессор Новой школы в Нью-Йорке Питер Асаро, отметил, что без человека за пультом управления, машина не в состоянии действовать в непредсказуемом окружении и изменчивых условиях войны.

"Какой контекст, какая ситуация, является ли использование силы приемлемым в этом контексте и по этой цели – все это можно автоматизировать, но нельзя автоматизировать достаточно, и кто будет нести ответственность, когда система сработает неправильно?", - сказал он.

"Это соблазнит нас вести войны, - говорит Уолш. – Все будет слишком просто, мы будем думать, что проведем конфликт чисто, но это обман, на самом деле имеющаяся техника не в состоянии различать комбатантов и некомбатантов".

Даже с человеком, готовым перехватить контроль, полуавтономный ИИ может совершать ужасные ошибки. Во время первой войны в Персидском заливе, ракеты Patriot попадали по американским и британским самолетам, а недавно опубликованные документы о беспилотной программе в США показали, что большое количество целенаправленных ударов проводились без подтверждения личностей погибших в авиаударах.

"С технической точки зрения, если вы замените человека роботом, то количество ошибок возрастет еще больше", - считает Уолш.

Также он рассказал, что, хотя в контролируемых условиях – на заводе, в лаборатории, искусственный интеллект работает достаточно хорошо, сегодня нашему "глупому ИИ" еще далеко до человеческого мозга в непредсказуемом реальном мире, тем более на поле боя.

Читайте: Роботы-убийцы: эксперты предупредили о новой гонке вооружений

Ян Керр, профессор этики и права в университете Оттавы, сравнил решение дать искусственному интеллекту возможность самостоятельно выбирать цели и открывать огонь со "своего рода русской рулеткой", сказав, что это "пересечет ранее не тронутые моральные границы".

Организаторы кампании убеждают, что они не просто поднимают панику на ровном месте, и защищают фразу "роботы-убийцы" в своем названии, говоря, что опасность реальна, а громкое название сослужило им хорошую службу в степенном мир дипломатов и комитетов.

Между тем США, Великобритания, Израиль и Южная Корея хранят молчание - каждая из этих стран далеко продвинулась в разработке ИИ, а также занимают первые места по объему военных расходов, при этом в США и Великобритании есть политика использования военного ИИ, но активисты, которые хотят добиться официальных переговоров по "существенному человеческому контролю", считают, что правила слишком расплывчаты.

Ричард Мойес, управляющий партнер британской некоммерческой организации "Article 36", сказал, что хотя государства пообещали наличие "человеческого контроля", но не уточнили его формы: будет ли это оператор, наблюдатель, человек, активирующий ИИ, или что-то совершенно другое.

Читайте: "Нет" гендерному неравенству: в Великобритании потребовали запретить секс-роботов

Точно так же и политика Пентагона, которая постоянно требует "соответствующего" уровня человеческого контроля, но его представитель не среагировал на просьбу об уточнении конкретных деталей. И хотя в 2012 году Пентагон принял 10-летний план не использовать полностью автономные ИИ, подобная мера может быть отменена высокопоставленными чиновниками и никак не ограничивает исследования и разработку.

В ООН США и Израиль придерживаются позиции "оставить этот вариант открытым", а Россия и Китай молча наблюдают за переговорами, разрабатывая собственные программы. "Никто особо не напрягается", - считает Гуз.

Если ООН признает официальными переговоры 13 ноября, может быть сформирована организованная оппозиция. Гуз рассчитывает, что, как минимум, ни одна страна не станет блокировать возобновление неофициальных переговоров, и сказал, что надеется на результаты в ближайшее время.

"Если мы будем ждать, технологический прогресс довольно быстро обгонит дипломатию", - заявил он.

Ранее "Обозреватель" писал о том, что Украину с моря будут охранять катера-роботы. Ими планируют удаленно управлять с берега.