Будут ли военные роботы подчиняться людям?

   При словах "восстание машин" обычно вспоминаются триллеры вроде "Терминатора" и "Матрицы". Некоторые вспоминают Азимова с его законами роботехники и множеством книг, посвящённых этической стороне использования разумных искусственных существ, но большинство людей считает неповиновение роботов людям чем-то, относящимся к фантастике. Однако такое будущее становится всё более вероятным.

   Сейчас роботы широко используются практически во всех сферах деятельности. Роботы опускаются на дно океана, отправляются на другие планеты, выполняют сложные операции, лечат людей, работают в качестве домохозяек, и даже воюют вместо людей. По мнению военных, будущие роботы должны научиться самостоятельно подчиняться законам войны, а не просто быть исполнителями команд человека за пультом. Но рост интеллекта машин может привести к тому, что они перестанут подчиняться своим хозяевам.

   Высокотехнологичные нации уже давно и успешно разрабатывают роботов, способных эффективно заменить людей на поле боя. Современные модели управляются человеком, тем не менее существуют планы разработки и выпуска полностью независимых боеспособных моделей. Существует опасное заблуждение, что такие роботы будут способны действовать только в рамках определённой модели поведения. Патрик Лин (Patrick Lin) в докладе, посвящёном проблемам военной роботехники и финансированном ВМС США, пишет: "Широко распространено заблуждение, что роботы будут делать только то, на что мы их запрограммируем. К сожалению, такая точка зрения является крайне устаревшей, она восходит ко времени, когда программу, написанную автором-одиночкой, мог понять только он."

   В докладе Лин отмечает, что размеры кода искусственного интеллекта, скорее всего, вскоре сделают невозможным их полный тщательный анализ и предотвращение возможных опасных ситуаций. Ни один из сотен программистов, работающих над миллионами строк кода, не имеет ясного понимания того, что происходит во всём коде. По словам Лина, ключевое значение для предотвращения восстания роботов имеет "обучение", которое позволит преподать роботу правильные и неправильные этические моменты военных действий. Это обучение должно проводиться параллельно с традиционным программированием роботов. В докладе также рассматриваются многие вопросы, связанные с роботами-убийцами. Помимо неисправности кода существует потенциальная угроза атаки противника, который перепрограммирует роботов и станет их владельцем. Кроме того, есть сложный вопрос, связанный с ответственностью: кто возьмёт на себя вину и ответит за зверства роботов: роботы, программисты, военные высшего звена или президент США?

   Кафедра этики и новейших технологий Калифорнийского государственного политехнического университета представила ВМС США доклад, в котором учёные предупреждают об опасности преждевременного развёртывания робокомплексов или чрезмерной самоуверенности относительно конечных результатов. Сейчас Конгресс США планирует привести к 2010 году в боевую готовность множество беспилотных летательных аппаратов, а к 2015 году согласно последним планам по крайней мере треть наземных боевых машин должна быть беспилотной. В докладе учёные считают, что массовое производство увеличивает риск неадекватного проектирования и ошибок программирования. "Что ещё хуже, нет целенаправленных и действенных усилий по созданию этического контроля в автономных системах, из-за чего вероятность, что первые поколения таких систем и роботов будут адекватными, очень мала." А ошибки здесь легко могут привести к человеческим жертвам.

   При конструировании военных роботов недостаточно встроить в них простые законы этики, сформулированные Айзеком Азимовым. Первый закон роботехники запрещает роботу действием или бездействием наносить вред человеку, однако военным роботам придётся убивать. Значит, роботу необходимо понимать разницу между своими, врагами и мирным населением. Доктор Лин считает, что для военных роботов нужен специальный военный код, и роботы должны будут действовать в рамках военной этики, которую ещё только предстоит создать.

   В начале этого года армия США была напугана сбоем программного обеспечения, в результате которого военные роботы начали поражать свои, невражеские цели. Боевые машины пока находятся под контролем людей, однако этот инцидент подчеркнул необходимость более тщательной разработки автономных систем. Несмотря на явные неисправности, "взбесившиеся" роботы всё ещё находятся в Ираке.