Роботы смерти. Чем рискует человек, используя роботов с оружием

Роботы и беспилотные системы давно находятся на службе у военных. Однако 8 июля робот-убийца был впервые использован полицией США.

Акция протеста в Далласе завершилась перестрелкой, смертельными ранениями полицейских и уничтожением одного из стрелков с помощью робота-курьера, доставившего к зданию, в котором находился преступник, взрывное устройство.

"Любой другой вариант поставил бы под угрозу жизни наших офицеров", — пояснил начальник полиции Далласа.

Дрон-киллер

Убийство на расстоянии для военных не новость. В военном деле спрос всегда способствовал технологическому прогрессу. Так случилось и с разработкой оружия для убийства на расстоянии: ранний пример — использование англичанами длинных луков в битве при Креси в 1346 году, более поздний — запуск нацистских ракет "Фау-1" и "Фау-2".

Совсем недавно США использовали беспилотники Predator и Reaper и вне традиционного поля боя. Согласно официальным данным, с 2009 года в результате 473 воздушных атак было убито около 2500 "комбатантов" и, возможно, более сотни гражданских лиц. Некоторые эксперты называют эти показатели заниженными.

Корреспондент BBC News Гордон Корера вспоминает, как в далеком 2008 году посетил авиабазу ВВС США Крич в невадской пустыне, где летчики Королевских военно-воздушных сил Великобритании впервые открыто продемонстрировали дроны, новейшее на тот момент оружие.

По словам Кореры, один из британских пилотов заметно ощетинился, когда корреспондент спросил его, не кажется ли военному, что управление дроном очень похоже на видеоигру. Это, кстати, часто задаваемый вопрос.

Сторонники беспилотников утверждают, что дроны намного эффективнее пилотируемых самолетов, так как могут дольше находиться у цели и гарантировать выполнение поставленной задачи.

Еще, конечно, они способствуют вполне объяснимому желанию снизить риски для жизни пилотов, точно так же, как это было в Далласе, когда сотрудники полиции получили возможность находиться на безопасном расстоянии от стрелка.

Однако критики утверждают, что отсутствие риска существенно меняет природу операции, так как снижает порог необходимой для выполнения задачи силы.

Ружьеботы

В военных целях роботы используются не только в небе, но и на земле. Одной из первых роботов-пограничников для охраны демилитаризованной зоны с Северной Кореей стала использовать ее соседка, Южная Корея. Роботы оснащены не только датчиками тепла и движения, но и оружием.

Преимущество таких железных служивых в том, что они не устают и не засыпают, в отличие от людей-часовых. Обнаружив потенциальную угрозу, корейский робот информирует о ней командный центр. Важно, что решение открыть огонь все же остается за человеком. Возвращаясь к роботу из Далласа, следует отметить, что он тоже выполнял приказ человека.

Настоящей проблемой, с которой мы столкнемся в будущем, будет не столько дистанционное управление оружием, сколько его автоматизация, а эти два понятия очень часто путают.

Настоящие автономные роботизированные системы не будут нуждаться в человеке, который бы их включил и принял за них решение нажать на курок или выдернуть чеку.

Следующим шагом может стать обучение корейских роботов идентификации "своих" и "чужих" и принятию самостоятельного решения о том, стоит ли открывать огонь. Футурологи уже видят перед собой полчища самонаводящихся наноботов, запрограммированных согласно всем законам и уставам военного времени.

Но каким должен быть код, чтобы машины находили правильный выход из любой сложной ситуации? Как быть с этическими нормами, как выбирать, когда стрелять?

Похожие вопросы приходится решать и создателям автомобилей-беспилотников. Что делать машине, если нужно выбрать: врезаться в толпу детей-пешеходов или навредить своим пассажирам?

На самом деле страхам перед автоматизацией уже много лет. Одна из первых задач, для которых использовался компьютер в период холодной войны, — максимальная автоматизация немедленного ответа на советские ядерные атаки.

Рассвет кибербезопасности

Для того чтобы с помощью сетевых компьютеров засечь и распознать приближающиеся советские самолеты, американцы разработали Sage, полуавтоматическую систему управления силами и средствами ПВО.

Вскоре все ракеты были подключены к системе и могли сбивать самолет противника. Но один из капитанов ВВС поставил под сомнение то, что компьютерам можно доверить контроль над запуском ракет и даже спросил, не слишком ли это опасно, ведь кто-то может проникнуть в компьютерную систему и перепрограммировать ее, направив удар по городам США, а не СССР. Мысль о том, что работа удаленных и автоматизированных систем может быть сорвана, поспособствовала появлению того, что сегодня принято называть кибербезопасностью.

Риски, связанные с дистанционным управлением оружием, как и опасности, которые таит автоматизация роботов, никуда не исчезли.

Конечно, военные использует зашифрованные каналы для контроля своих роботов, но в системе — об этом вам скажет любой хакер — почти всегда есть ахиллесова пята, слабое место, которое противник может найти и использовать в своих целях.

Уже были случаи, когда хакеры брали под удаленный контроль автомобили и те переставали подчиняться действиям водителя. Один из кошмаров будущего — возможность захватить контроль над роботом и навести прицел на любую мишень.

То, что освоением робототехники занялись не только военные, но и правоохранительные органы, вызывает странные чувства. Использование ботов последними имеет совершенно иной контекст и сулит еще большее дистанциирование полиции от общества с дальнейшим накоплением нерешенных проблем.

• Читайте также: Быстрее пули. Каким будет американское супероружие — рельсотрон из первых уст

До сих пор непонятно, можно ли достичь баланса между рисками и преимуществами использования роботов, между удаленным управлением и автоматизацией.

События в Далласе показали, что будущее надвигается так быстро, что времени на неспешные дебаты у нас не остается.

По материалам: ВВС
Перевод Анны Синящик
Фото: Getty Images