Беспилотник впервые в истории самовольно атаковал человека

Как пишут специализированные СМИ, в прошлом году турецкий дрон нанес удар по живой цели без вмешательства оператора. Не пора ли беспокоиться?

Вероятно, боевой дрон впервые в полностью автономном режиме атаковал людей, сообщает журнал New Scientist. Несколько раньше об этом со ссылкой на экспертный доклад по Ливии для ООН написал специализированный «Бюллетень ученых-атомщиков». Были ли реальные жертвы, неизвестно. Но сообщения о том, что роботы самостоятельно могут охотиться на людей, звучат пугающе.

Предположительно, автономный беспилотник Kargu-2 турецкого производства мог прошлым летом выследить и уничтожить отступающих солдат, сражавшихся на стороне ливийского генерала Халифы Хафтара, что могло стать одним из факторов, из-за которых правительство Триполи тогда одержало верх над другим центром силы, расположенным в Бенгази.

Как написано на сайте производителя этих аппаратов, турецкой компании STM, Kargu-2 — это небольшой семикилограммовый «ударный беспилотник с поворотным крылом, разработанный для ведения асимметричных боевых действий или антитеррористических операций». Причем в видео на YouTube уточняется, что он может действовать в составе роя дронов, который самостоятельно выстраивается в устрашающий боевой порядок для нанесения удара по цели. Каково вооружение дронов, не уточняется, но предполагается, что они могут нести как стрелковое оружие, так и взрывчатку.

У Турции дроны с искусственным интеллектом стоят на вооружении. Но их уже не первый год разрабатывают несколько других стран, говорит заведующий Центром глобальных исследований и международных отношений Дипломатической академии МИД Вадим Козюлин:

Вадим Козюлин заведующий Центром глобальных исследований и международных отношений Дипломатической академии МИД «Еще несколько лет назад это было возможно. Существуют аппараты, которые в основном используются для охраны границ. Это автоматический пулемет, который может самостоятельно распознавать противника и уничтожить его тоже самостоятельно. Такие пулеметы выпускают Израиль, Южная Корея, и Россия тоже может их делать. Но после того, как общественность стала возражать, все производители сказали, что они не выпускают их в таком виде, когда аппарат может действовать без человека: во всех случаях он обращается к оператору».

В августе 2017 года более 100 владельцев и руководителей технологических компаний из разных стран, включая Илона Маска, подписали открытое письмо с призывом к ООН запретить разработку и использование оружия под управлением искусственного интеллекта. А как сам Маск написал в своем Twitter, он опасается, что глобальная гонка вооружений в области искусственного интеллекта приведет к третьей мировой войне. Предприниматель сделал это в ответ на заявление Владимира Путина о том, что лидер в области ИИ «станет властелином мира».

Насколько эффективной оказалась эта инициатива, учитывая, что появляются сообщения подобного типа, неизвестно, говорит один из подписавших призыв, гендиректор российской компании «НавиРобот» Игорь Кузнецов:

Игорь Кузнецов гендиректор российской компании «НавиРобот» «Действительно, был такой сбор подписей — и в нем участвовали две организации из России, много организаций со всего мира — за то, чтобы запретить использование искусственного интеллекта в оружии. До сих пор я периодически вижу письма от Arms Control Association. Она ведет свою деятельность, выпускает статьи, у них есть журнал, сайты, довольно большое сообщество. Насколько они эффективны в своей деятельности, я не могу сказать. Инициатива с подписями против использования искусственного интеллекта в оружии была приурочена к одному из саммитов».

Международные переговоры по запрещению летального автономного оружия вяло идут уже несколько лет. Но уже почти два года назад все тот же New Scientist писал, что армия США собирается создать умные ракеты, которые будут использовать искусственный интеллект для самостоятельного выбора целей, недоступных для человеческого наведения, так как «их точное положение трудноопределимо».