Законы робототехники — это набор законов, правил или принципов, которые предназначены в качестве фундаментальной основы для поддержки поведения роботов, предназначенных для обеспечения степени автономии. Роботов этой степени сложности еще не существует, но они широко ожидаются в научной фантастике, фильмах и являются темой активных исследований и разработок в области робототехники и искусственного интеллекта.
Наиболее известный набор законов — это те, которые были написаны Исааком Асимовым в 1940-х годах или основаны на них, но исследователи в течение десятилетий предлагали другие законы.
Исаак Азимов «Три закона робототехники»
Наиболее известным набором законов являются «Три закона робототехники» Исаака Азимова. Они были представлены в его короткометражном рассказе 1942 года «Runaround», хотя они были предвещены в нескольких предыдущих историях. Три закона:
Робот не может нанести вред человеку или через бездействие позволить человеку нанести вред.
Робот должен подчиняться приказам, данным ему людьми, за исключением случаев, когда такие приказы будут противоречить Первому закону.
Робот должен защищать свое существование, если такая защита не противоречит Первому или Второму Законам.
В конце его книги «Фонд и Земля» был введен нулевой закон:
0. Робот не может нанести вред человечеству или, бездействуя, позволить человечеству нанести вред.
Адаптации и расширения существуют на основе этой структуры. С 2011 года они остаются «вымышленным устройством».
EPSRC / AHRC принципы робототехники
В 2011 году Совет исследований технических и физических наук (EPSRC) и Совет по исследованиям в области искусств и гуманитарных наук Великобритании (AHRC) совместно опубликовали набор из пяти этических «принципов для дизайнеров, строителей и пользователей роботов» в реальном мире, с семью «сообщениями высокого уровня», которые должны были быть представлены на основе исследовательского семинара в сентябре 2010 года:
Роботы не должны разрабатываться исключительно или в первую очередь для уничтожения или нанесения вреда людям.
Люди, а не роботы, являются ответственными агентами. Роботы — это инструменты, предназначенные для достижения человеческих целей.
Роботы должны быть спроектированы таким образом, чтобы обеспечить их безопасность и безопасность.
Роботы — это артефакты; они не должны быть предназначены для использования уязвимых пользователей, вызывая эмоциональный отклик или зависимость. Всегда должно быть возможно сказать роботу от человека.
Всегда должно быть возможно выяснить, кто несет юридическую ответственность за робота.
Сообщения, которые должны были быть переданы, были:
Мы полагаем, что роботы могут оказать огромное влияние на общество. Мы хотим поощрять ответственные исследования роботов.
Плохая практика причиняет нам боль.
Решение очевидных общественных проблем поможет нам всем добиться прогресса.
Важно продемонстрировать, что мы, как роботисты, привержены наилучшим стандартам.
Чтобы понять контекст и последствия наших исследований, мы должны работать с экспертами из других дисциплин, включая: социальные науки, право, философию и искусство.
Мы должны рассмотреть этику прозрачности: существуют ли пределы того, что должно быть открыто доступно?
Когда мы видим ошибочные сообщения в прессе, мы обязуемся тратить время на общение с журналистами-журналистами.
Принципы EPSRC широко признаны в качестве полезной отправной точки. В 2016 году Тони Прескотт организовал семинар для пересмотра этих принципов, например, чтобы дифференцировать этические нормы с юридических принципов.
Развитие судебной системы
Еще одна всеобъемлющая терминологическая кодификация для юридической оценки технологических разработок в индустрии робототехники уже началась в основном в азиатских странах. Этот прогресс представляет собой современное переосмысление закона (и этики) в области робототехники, интерпретация которого предполагает переосмысление традиционных правовых созвездий. К ним относятся прежде всего вопросы юридической ответственности в гражданском и уголовном праве.
Законы Сатья Наделлы
В июне 2016 года Сатья Наделла, генеральный директор Microsoft Corporation в то время, имела интервью с журналом Slate и примерно набросала пять правил для искусственных интеллектов, которые наблюдали их дизайнеры:
«ИИ должен быть разработан, чтобы помочь человечеству», то есть нужно уважать автономию человека.
«ИИ должен быть прозрачным», что означает, что люди должны знать и понимать, как они работают.
«AI должен максимизировать эффективность, не разрушая достоинства людей».
«ИИ должен быть разработан для разумной конфиденциальности», что означает, что он заслуживает доверия, защищая свою информацию.
«У ИИ должна быть алгоритмическая подотчетность, чтобы люди могли отменить непреднамеренный вред».
«ИИ должен защищать от предвзятости», чтобы они не должны были дискриминировать людей.
Тильден «Законы робототехники»
Марк У. Тильден является физиком-робототехником, который был пионером в разработке простой робототехники. Его три руководящих принципа / правила для роботов:
Робот должен защищать свое существование любой ценой.
Робот должен получать и поддерживать доступ к своему источнику питания.
Робот должен постоянно искать лучшие источники питания.
Что примечательно в этих трех правилах, так это то, что это в основном правила для «дикой» жизни, поэтому, по сути, Тильден утверждал, что он хотел «просить кремниевые виды в чувство, но с полным контролем над спецификациями». Не животное. Что-то еще.