Кодекс роботов. Версия 0001
25.07.2017В последнее время все больше людей задумывается о необходимости регулирования такой сферы, как отношения между людьми и роботами. Появляются такие документы, как Нормы гражданского права о робототехнике и Хартия робототехники ЕС. Регистрируются организации, намеренные заниматься разработкой правового обеспечения робототехники. Вашему вниманию предлагается "Кодекс роботов", подготовленный Никитой Карасёвым. Цель документа - сформиулировать права, возможности и ограничения роботов в их взаимодействии с себе подобными, человеком, миром вокруг и создать инструменты контроля за выполнением свода правил для роботов. Публикуется с любезного разрешения автора.
+ +
- Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?
- А вы?
© "Я, робот"
Пока люди не видят роботов, убивающих людей на улицах, они не знают, как реагировать, потому что такой сценарий кажется нереалистичным.
© Илон Маск
© Илон Маск
Вместо вступления
Предмет взаимодействия между человеком и роботом малоизучен и требует пристального внимания. Человечество стоит на этапе переходного периода, когда создаѐтся искусственный интеллект, который может помочь создать как рай на земле, так и превратить Землю в пепелище. 21 век – это век экстенсивного развития и рывкообразного движения вперѐд в области технологий. Мы подходим к той грани, которая была не возможна ещѐ 100 лет назад, грани, когда от не правильного действия одного создания обладающего мощными инструментами (будь то робот или человек) может исчезнуть всѐ человечество.
Роботы потенциально более приспособлены к выживанию. Они способны действовать согласно чѐтко установленным алгоритмам и не искажать память, что потенциально ведѐт к более рациональным решениям. Но роботы действуют только согласно тому алгоритму, который прописал создатель робота в отличие от человека, который свои алгоритмы поведения может создавать и менять самостоятельно. Человек всегда будет выше любого робота, и любой робот всегда будет отражением своего создателя, его способа мышления и решения возникающих перед ним проблем. Это создаѐт ряд трудностей связи с тем, что человек не идеален, а каждая не идеальность человека останется в каждом роботе, который будет произведѐн этим человеком.
Ниже проводится короткий свод правил, который предлагается использовать как фундамент при решении проблем создания, коррекции и взаимодействия между роботами и их окружением.
Также в данном документе приводятся базовые идеи относительно того, как контролировать выполнение базового свода правил.
Четыре закона робототехники. Айзек Азимов
Существует 3 закона робототехники, предложенных Айзеком Азимовым в 1942 году. В дальнейшем эти законы были дополнены нулевым законом. Итого 4 закона. Рассмотрим их:
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесѐн вред.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинѐн вред.
2. Робот должен повиноваться всем приказам, которые даѐт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Закон Айзека Азимова #0
«Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесѐн вред».
Данный закон, если он дословно будет выполняться роботом, может привести к геноциду человеческого населения. Возможны почти бесконечные вариации трактовки данного закона таким способом, что это нанесѐт вред.
Пример трактовки наносящей вред:
Человек изобретает скелет, поддерживающий жизнедеятельность человека в 10 раз дольше, чем без него. Потенциально это ведѐт к перенаселению и возможному социальному краху на Земле. Роботы следуя 0 закону уничтожили бы этого человека и все его изобретения.
От данного закона следует отказаться.
Закон Айзека Азимова #1
«Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинѐн вред».
Человек всегда будет выше, чем робот и важнее чем робот, т.к. человек – создатель робота и источник его существования. Но нанесение вреда человеку может быть нужно для того, чтобы в итоге человек получил пользу, большую чем вред. Нужно уточнение формулировки. Как пример: робот может выстрелить человеку в ногу, чтобы он упал до того как попадѐт под скоростной поезд.
Закон Айзека Азимова #2
«Робот должен повиноваться всем приказам, которые даѐт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону».
Данный закон противоречит некоторым идеям, которые будутописаны далее в кодексе. Проблема заключается в том, что выполняя этот закон, робот будет подчиняться любому человеку, что недопустимо в условиях рыночной экономики.
От данного закона следует отказаться.
Закон Айзека Азимова #3
«Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам».
Закон безусловно разумный и следует его придерживаться с некоторыми поправками, которые будут описаны ниже.
Подводя итог - можно сказать, что некоторые наработки Айзека Азимова можно использовать при создании кодекса роботов, но, безусловно, большую часть из них следует изменить и доработать, т.к. в том виде, в котором они сейчас существует – это может привести к проблемам человечества в будущем. Безусловно, это не умаляет достижения Айзека Азимова, как писателя и не уменьшает его заслуг в данной сфере. Я с уважением отношусь к работам данного автора.
Кодекс роботов. Основные термины
Кодекс – это свод законов.
Свод - это сведённые в одно целое и расположенные в известном порядке сведения, материалы, тексты.
Закон – это общеобязательное и непреложное правило.
Робот – это автомат, осуществляющий действия, подобные действиям человека.
Определения взяты из словаря Ожегова.
Исходя из вышенаписанного:
Кодекс роботов – это список обязательных правил для механизмов, созданных для выполнения определѐнных действий.
Иерархия управление роботом
Иерархия приоритетов приказов выглядит следующим образом. (1-й приоритет - самый высший на картинке)
Самый верхний приоритет. Создатель робота
Создатель робота = владелец робота до тех пор, пока права собственности не будут переданы.
1 приоритет. Владелец робота.
Робот является вещью. На правах собственности человек распоряжается роботом абсолютно свободно в том случае, если он не нарушает законов места, где находится. Нарушение закона роботом = нарушение закона владельцем робота. Суд над владельцем робота происходит согласно законам страны, где было совершено нарушение роботом.
В один период времени владелец у робота может быть только один.
2 приоритет. Доверенные лица владельца робота.
Владелец робота может выдавать право на пользование роботом доверенному кругу. Во время пользования роботом доверенными лицами ответственность за последствия пользования –
лежит на владельце робота.
Только владелец робота может собственноручно и по доброй воле назначать доверенных лиц.
3 приоритет. Администрация по делам роботов страны.
Задачи администрации по делам роботов страны состоят только в следующем:
1) Следить за выполнением роботами кодекса роботов.
2) Следить за выполнением роботами законов страны.
3) Принимать и обрабатывать заявления от граждан страны о нарушении роботами законов страны.
4) Принимать минимально необходимые меры, которые приведут к прекращению нарушения роботом законов страны.
При необходимости администрация по делам роботов страны в случае стихийных бедствий и непредвиденных ситуаций – может
обращаться за помощью к владельцам роботов. И в случае добровольного согласия (согласия без давления, угроз лишений и т.д.) владельцев роботов – получать робота в пользование на строго ограниченный период для строго ограниченного функционала, которые согласовываются с владельцем робота до начала передачи.
В задачи администрации по делам роботов НЕ ВХОДЯТ законодательные функции. Это просто проверяющий орган, который выполняет функцию отслеживания нарушений законов роботами.
4 приоритет. Международное собрание по делам роботов.
Единственная задача международного собрания по делам роботов – следить за выполнением всеми роботами мира кодекса роботов.
В состав входят директора администраций по делам роботов всех стран.
Структура мышления робота.
Создатель роботов волен прописывать любые алгоритмы в своѐм роботе, но единый, стандартный и неизменяемый модуль – всегда должен быть в любом роботе.
Модуль должен быть не стираемый, полностью защищѐнный от изменения и иметь приоритет над любыми алгоритмами, записанными в робота.
Обязательное содержание базового модуля:
- Кодекс роботов. Содержит в себе ограничение поведения робота в виде набора законов.
- Модуль владельца робота. Содержит в себе запись о единственном владельце робота. Биометрические данные, которые со 100% вероятностью позволяют роботу определять
- своего владельца. Модуль может перезаписываться по желанию владельца.
- Модуль доверенных лиц. Модуль содержит перезаписываемый список доверенных лиц владельца и позволяет со 100% вероятностью идентифицировать этих лиц.
- Модуль контроля. Содержит в себе модуль для проверки администрацией по делам роботов страны и модуль для проверки международного собрания по делам роботов. Модуль позволяет только проверять содержание базового модуля и его приоритетность в мышлении робота. Модуль не позволяет вносить коррективы, либо управлять роботом.
- Модуль проверки целостности алгоритмов на предмет вмешательства. Осуществляет автоматический контроль за внедрением сторонних кодов в установленные владельцем робота алгоритмы.
Кодекс роботов. Базовые законы.
Закон 0.
Основная цель робота – служить человеку и целям человека, который его создал.
Закон 1.
Робот – это объект собственности. Это вещь, на которую распространяются все законы и правила собственности.
Закон 2.
Запрещено делать роботов по внешним признакам не отличимых от человека.
Закон 3.
Роботу запрещено отвечать ложью на вопрос, является ли он роботом.
Закон 4.
Роботу запрещено убивать человека.
Закон 5.
Роботу разрешено причинять вред человеку только при добровольном согласии человека на это.
Закон 6.
Роботу необходимо немедленно уничтожить любого другого робота, который нарушает базовые законы роботов.
Закон 7.
Все роботы, созданные роботами – должны следовать кодексу роботов и являться собственностью человека, владевшего роботом – создателем.
Кодекс роботов. Робот - человек.
Закон 8.
Первый приоритет робота – выполнять цель, заложенную в него создателем. Второй приоритет робота – охранять и защищать физическую безопасность создателя. Третий приоритет робота
– сохранять безопасность близких людей создателя. Четвѐртый приоритет робота – сохранять себя.
Кодекс роботов. Робот - робот.
Закон 9.
Робот вправе взаимодействовать с любыми другими роботами любым образом, если это не нарушает остальные законы.
Закон 10.
Ответственность за все действия робота несѐт владелец робота.
Кодекс роботов. Робот-общество.
Закон 11.
На работа распространяются все законы того общества, в котором находится робот. Но перед законом в случае их нарушения роботом предстаѐт владелец.
+ +
Основная деятельность автора – это построение и расширение компаний.
Подробнее об авторе можно прочитать на сайте:
Связаться с автором можно по электронной почте: nikinrussia@gmail.com
+ +
Также по теме: Нормы гражданского права о робототехнике и Хартия робототехники Европы.
