Инженеры переписали три закона роботехники

   Два инженера переписали три закона роботехники, созданные Айзеком Азимовым, для того, чтобы сделать их более целесообразными. Хотя новые законы не так лаконичны, как оригиналы, инженеры говорят, что новый вариант более безопасен и более реалистичен. По словам Девида Вудса (David Woods), профессора по созданию интегрированных систем в Университете штата Огайо, законы Азимова скорее являются литературным образом и не могут использоваться как действующий протокол для взаимодействия человека и робота. "Замысел возник из-за пробелов в законах, наличия ситуаций, в которых законы не действуют," ─ сказал он.

   Итак, открываем, например, книгу "Я, робот", и ищем там законы роботехники. Три закона роботехники:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.

   Из «Справочника по роботехнике» 56-е изд., 2058 год

   Вудс и его соавтор, Робин Мерфи (Robin Murphy) из техасского университета агрокультуры и машиностроения, предложили три закона, которые, по их мнению, больше соответствуют действительности:

• Человек не может использовать робота без рабочего плана взаимодействия человека и робота, составленного по высоким правовым и профессиональным стандартам в области безопасности и этики.
• Робот должен реагировать на людей в зависимости от их роли.
• Робот должен быть наделен достаточной автономией действия в зависимости от ситуации для защиты своего собственного существования до тех пор, пока такая защита обеспечивает плавную передачу контроля, которая не противоречит Первому и Второму законам.

   Новый первый закон предполагает, что люди используют роботов. Второй предполагает, что роботы будут иметь ограниченную способность понимать приказы человека и будут реагировать только на соответствующий набор приказов от ограниченного числа людей. Последний закон является наиболее сложным. По словам Вудса, робот должен иметь некоторую автономию для того, чтобы действовать и реагировать при реальных ситуациях. Он должен принимать решения, чтобы защитить себя, но он также должен передавать контроль людям, когда это уместно. "В итоге роботы должны быть гибкими и устойчивыми. Они должны быть в состоянии защитить себя, а также плавно передавать людям контроль, когда это необходимо," ─ говорит Вудс. ─ "Наши законы немного более реалистичны, и поэтому немного скучны."

   Комментарий юриста:

   Новые законы не будут работать потому, что они открыты для интерпретации. Законы Азимова имеют абсолютный характер, и поэтому лучше для робота, которому требуются абсолютные правила.

   Вопросы к составителям новых законов роботехники:

1. Что делать, если робот используется другим роботом?
2. Что такое "высокие правовые и профессиональные стандарты в области безопасности и этики"? (это абсолютно субъективно, см. "iRobot")
3. "Робот должен реагировать на людей в зависимости от их роли." Чьей роли? Робота или человека? означает ли это создание какой-либо системы классификации? (Робот думает: "Я могу не реагировать на приказы этого человека, поскольку он не является моим создателем.")
4. "Обеспечивает плавную передачу контроля, которая не противоречит Первому и Второму законам." Это просто мусор. Что это значит? Я юрист, и даже я не знаю. Кому мы передаём контроль? Контроль чего?

   Доктору Вудсу необходимо найти новое направление для работы...