Забудьте фразу Робокопа “у вас есть 20 секунд, чтобы сдаться” - современные военные роботы захватывают цель и стреляют, не предупреждая об этом и не задавая “лишних” вопросов. Речь не идет о самостоятельных автономных военных дронах (хотя случаи убийства человека роботом уже были - например, швейцарская автономная зенитная установка Эрликон GDF-005 в 2007 году открыла неконтролируемый огонь и убила девять солдат, ранив еще 14). Пока что все выглядит куда как невинно.

В прошлом году у берегов Большого Барьерного Рифа, Австралия, был запущен робот COTSbot, автономно выявляющий и убивающий морских звезд. Это одно из первых применений автоматических систем, убивающих живые организмы, не дожидаясь выраженного согласия человека на каждый акт такого убийства. Сегодня цель робота-убийцы - это морские звезды, а кого еще роботам разрешат убивать завтра? Возможно, опасения, связанные с роботизацией уничтожения жизни, несколько преувеличены, однако нельзя не отметить возможность создания схожих систем, которые могут использоваться на поле боя, в ходе силовых операций или в террористических целях.

В апреле 2015 года вопрос запрета на создание автономных оружейных систем уже поднимался в ООН - дебаты заняли 5 дней и продолжатся в апреле 2016 года. Девять стран призвали к запрету автономных военных роботов. Тем не менее, никаких решений, кроме как о “продлении дискуссии” не принималось.

В ближайшем будущем влияние автономных устройств на наши жизни неизбежно продолжит стремительно расти. Как следствие, вырастет безработица за счет сокращения ряда вакансий в результате автоматизации многих процессов. Мало этого, общество похоже перестает поспевать за технологическим прогрессом. Во многих странах до сих пор нет адекватного законодательства в отношении дронов и основанного на них бизнеса - а ведь эта технология с нами уже несколько лет! Не принимаются меры по формированию новых вакансий, запаздывает формирование образовательных программ в сфере ИИ и робототехники.

В этой ситуации крайне велика опасность потери диалога в области гонки вооружений в сегменте полностью автономных боевых устройств, для которых не будут актуальны ни “законы робототехники”, ни каких-либо моральные ограничения. И беда в том, что человеческое общество сегодня устроено таким образом, что вопрос стоит не “могут ли появиться полностью автономные системы уничтожения живой силы противника”, сколько “какая страна первой начнет выпуск и испытания полностью автономных систем уничтожения живой силы противника”. И к чему это приведет, конечно...