Два инженера переписали три закона роботехники, созданные Айзеком Азимовым, для того, чтобы сделать их более целесообразными. Хотя они не так лаконичны, как оригиналы, инженеры говорят, что новый вариант более безопасен и более реалистичен. По словам Девида Вудса (David Woods), профессора по созданию интегрированных систем в Университете штата Огайо, законы Азимова скорее являются литературным образом и не могут использоваться как действующий протокол для взаимодействия человека и робота. "Замысел возник из-за пробелов в законах, наличии ситуаций, в которых законы не действуют," ─ сказал он. Итак, открываем, например, книгу "Я, робот", и ищем там законы роботехники. Три закона роботехники: - Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. - Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону. - Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам. Из «Справочника по роботехнике» 56-е изд., 2058 год
Вудс и его соавтор, Робин Мерфи (Robin Murphy) из техасского университета агрокультуры и машиностроения, предложили три закона, которые, по их мнению, больше соответствуют действительности: - Человек не может использовать робота без рабочего плана взаимодействия человека и робота, составленного по высоким правовым и профессиональным стандартам в области права и этики. - Робот должен реагировать на людей в зависимости от их роли. - Робот должен быть наделен достаточной автономией действия в зависимости от ситуации для защиты своего собственного существования до тех пор, пока такая защита обеспечивает плавную передачу контроля, которая не противоречит Первому и Второму законам.
Новый первый закон предполагает, что люди используют роботов. Второй предполагает, что роботы будут иметь ограниченную способность понимать приказы человека и будут реагировать только на соответствующий набор приказов от ограниченного числа людей. Последний закон является наиболее сложным. По словам Вудса, Робот должен иметь некоторую автономию для того, чтобы действовать и реагировать при реальных ситуациях. Он должен принимать решения, чтобы защитить себя, но он также должен передавать контроль людям, когда это уместно. "В итоге роботы должны быть гибкими и устойчивыми. Они должны быть в состоянии защитить себя, а также плавно передавать людям контроль, когда это необходимо," ─ говорит Вудс. ─ "Наши законы немного более реалистичны, и поэтому немного скучны." Комментарий юриста: Новые законы не будут работать потому, что они открыты для интерпретации. Законы Азимова имеют абсолютный характер, и поэтому лучше для робота, которому требуются абсолютные правила. Вопросы к составителям новых законов роботехники: Что делать, если робот используется другим роботом? Что такое "высокие правовые и профессиональные стандарты в области права и этики"? (это абсолютно субъективно, см. "iRobot") "Робот должен реагировать на людей в зависимости от их роли." Чьей роли? Робота или человека? означает ли это создание какой-либо системы классификации? (Робот думает: "Я могу не реагировать на приказы этого человека, поскольку он не является моим создателем.") "Обеспечивает плавную передачу контроля, которая не противоречит Первому и Второму законам." Это просто мусор. Что это значит? Я юрист, и даже я не знаю. Кому мы передаём контроль? Контроль чего? Доктору Вудсу необходимо найти новое направление для работы...
|