Мы все на прицеле у дрона-убийцы?

Неожиданная для информационного века новость «с опозданием на год и квартал»: оказывается, согласно докладу ООН, в марте прошлого года в Ливии впервые боевой робот-беспилотник самостоятельно, без приказа оператора атаковал и уничтожил человека. По имеющейся информации, это был турецкий аппарат KARGU-2, и, будучи применен со стороны правительственных войск, поразил бойца Ливийской национальной армии фельдмаршала Халифы Хафтара. Примечательно, что данный аппарат может координироваться с себе подобными и выступать с ними единой группой.

Означает ли это какой-то кардинальный прорыв в военном деле? Что будет, если такая умная техника окажется в руках террористов? Не следует ли опасаться некоего «бунта машин», как в научной фантастике, выхода «искусственного интеллекта» из подчинения? Первая реакция военных экспертов: разброс мнений практически «диаметральный».

Павел Фельгенгауэр, военный обозреватель:

Пока не очень понятно, что там, собственно, произошло — но даже если это и правда, большого повода для хайпа я здесь не вижу

Автоматические системы существуют уже много столетий. Растяжка, привязанная к арбалету, тоже без человека могла стрелять и убивать. В наше время существуют «интеллектуальные мины», которые могут пропускать одни виды техники и взрываться под другими. Вряд ли этот робот мог отличить одного конкретного человека от другого. А мирное население и так страдает во всех конфликтах, без всяких искусственных интеллектов.

Александр Гольц, военный обозреватель:

Пока то, что мы слышим, мягко говоря, сильно сомнительно. Никто не дает ссылку на сам ооновский доклад, а все ссылаются на журнал New Scientist, о котором я впервые слышу, и на английскую газету Daily Star, и еще New York Post. Это все таблоиды.

Что можно предположить? Турция, чей аппарат был применен, вне всяких сомнений, является чрезвычайно передовой страной в деле использования беспилотной авиации. В прошлом году в боях и в Сирии, и в Ливии, впервые беспилотники были применены в общевойсковом бою. Это турецкий приоритет. До того американцы применяли беспилотники против террористов. Турки не боятся экспериментировать на поле боя.

С другой стороны, крылатая ракета так же летит по заданному маршруту и уничтожает цели без связи с оператором. Использование искусственного интеллекта в военных целях находится в самом начале. Различить реальные и вымышленные угрозы мы сможем только, к сожалению, на практике.

Но любое современное оружие в руках террористов, без разницы, может нам устроить веселую жизнь и, не будучи искусственным интеллектом. И я не вижу принципиальной разницы между обычным беспилотником, который управляется оператором, и беспилотником с искусственным интеллектом, который запускает террорист.

Террористам чаще все равно, в кого попадать, по большому счету. Это ничем не отличается от ракеты «Касам», которую запускают хамасовцы, и которая представляет собой обрубок металлической трубы. А что касается покушений, то совсем недавно, в ноябре, иранский ядерщик был уничтожен Израилем из пулемета, который действовал автономно и по сигналу, пущенному со спутника. Любая современная технология дает большие возможности желающим совершить теракт.

Александр Храмчихин, заместитель директора Института политического и военного анализа:

Насчет того, насколько это серьезный прорыв в военном деле как таковом, сказать сложно. Это все-таки усовершенствование предыдущих технологий. Но вообще, событие, безусловно, эпохальное. На уровне 6 августа 1945 года, то есть — первого применения ядерного оружия.

Потому что, если робот получает право убить человека самостоятельным решением, без участия другого человека, то это значит, что мы живем уже в совершенно другом мире. То, что робот получил такое право — гораздо опаснее, чем всеобщая ядерная война. Опаснее тем, что теперь машины могут сами уничтожать людей собственным решением. Сдержать распространение и применение ядерного оружия гораздо проще.

Если роботы становятся самостоятельной силой, то я бы сказал, что человечество практически обречено. Вопрос — за какое время это реализуется. Не уверен, но не исключено, что еще при нашей жизни.

Естественно, робот был запрограммирован на определенные приметы противника. Но боевые роботы создаются как самообучающиеся системы. То, что называется искусственный интеллект. Это система, которую запрограммировал человек, а потом она начинает самообучаться. И совершенно не факт, что человек контролирует этот процесс. Системы управления оружием уже давно автоматизированы и будут еще больше автоматизироваться, потому что человек уже не способен переваривать такие объемы информации и принимать решения в нужном темпе.

У нас неизбежно возникнут ситуации, когда роботы будут управлять роботами. Этот самый самообучающийся искусственный интеллект будет роботами же и управлять. К чему все это приведет, я уже сказал. Причем, я считаю, что рано или поздно это неизбежно.

То, что новое оружие опробовано в «глухом углу» — абсолютно естественно. Африка — то место, которого никому не жалко, несмотря на всеобщую политкорректность. Так же естественно, что новинка пришла из Турции, там очень активно развивается беспилотная авиация. Есть такой феномен: страны, отставшие в развитии авиации традиционной, пилотируемой, очень хорошо наверстывают упущенное именно за счет беспилотной авиации. Кроме Турции, это Иран, а до определенной степени и Китай. В пилотируемой авиации Китай, хоть он и производит все в больших количествах, но в основном это — производные от наших самолетов. А в беспилотной авиации он уже нас очень сильно опередил.

Опасны любые роботы вообще. Но беспилотники развиваются опережающими темпами, потому что во многом они проще, чем наземные или морские роботы. Они выгоднее экономически: беспилотник во много раз дешевле пилотируемого самолета. В наземной и морской технике разница не такая колоссальная. При этом беспилотником проще управлять: дальность радиовидимости гораздо больше относительно летающего объекта, нежели наземного и тем более морского.

В руки террористов оружие попало очень давно: беспилотниками пользуются уже все подряд. Сделать с этим ничего нельзя. Человек расхотел воевать, во всех мало-мальски развитых странах. Война передается роботам: вот, роботы всех и убьют, кто не хотел воевать. Может быть, это и поможет сократить армии, только я не знаю, кому от этого полегчает.

Для начала применение таких роботов повлечет ошибки и нанесение ударов по своим. Кроме того, робот может быть перехвачен противником: еще лет 10 назад иранцы захватили очень секретный американский беспилотник и просто перехватили управление им. Очевидно, с помощью нашей или белорусской системы радиоэлектронной борьбы. Ну, это первый этап. А потом уже глобальный следующий.

Денис Федутинов, главный редактор издания «Беспилотная авиация»:

О прорыве здесь можно говорить скорее в том смысле, что преодолен не технологический, а психологический барьер на пути применения подобной техники в автономном режиме. Показательно, что преодолен этот барьер не теми странами, которые занимают лидирующие позиции в развитии беспилотной техники, а новым игроком, который в достаточно вызывающей манере демонстрирует миру свои растущие возможности.

Такого рода системы уже находятся в руках различных негосударственных акторов, в том числе и действующих в террористических целях. И со временем эта тенденция будет только укрепляться. Необходимо быть готовыми к тому, что растущая доступность как самих систем, так и компонентов, включая необходимое программное обеспечение, делает их тем средством, которое со все большей частотой будет применяться как по военным, так и по гражданским целям.

Человек сам дает беспилотнику возможности убийства другого человека, нарушая тем самым небезызвестное «первое правило робототехники Азимова» (американский фантаст Айзек Азимов в начале 1940-х годов сформулировал Три закона робототехники, первый из которых звучит так: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред», — «Росбалт»). Повышение эффективности собственных действий таким способом имеет оборотную сторону, которая практически неизбежно будет состоять в росте жертв среди гражданского населения, а также росте собственных потерь от «дружественного огня».

Беседовал Леонид Смирнов