Термин «Законы роботехники»

«Законы эти вымышленные, так же как вымышлен фантастами и сам Азимов».

С. Златаров. «Случай «Протей»

Три закона роботехники, которые управляют поведением вымышленных позитронных роботов Айзека Азимова, искусственного интеллекта и роботов, придуманными другими фантастами, были сформулированы Азимовым в 1942 году в рассказе «Хоровод». Законы гласят:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

В более раннем рассказе 1941 года «Лжец!» упоминается только Первый, единственный закон. Азимов вспоминал, что 23 декабря 1940 года, за обсуждением очередного рассказа о роботах, Кэмпбелл сформулировал то, что стало позже известно как три закона роботехники. Позже Кэмпбелл говорил, что он просто вычленил законы из того, что Азимов уже написал. Сам же Азимов всегда уступал честь авторства трёх законов Кэмпбеллу.

Сюжеты-головоломки следующих рассказов цикла развиваются из придирок к определениям — что такое «человек»? — и конфликтов между потенциалами законов в позитронном мозге. Например, ценный робот в «Хороводе» имеет усиленный Третий закон самосохранения, который ставит его перед дилеммой приоритетов. Десятилетия спустя Азимов добавил Нулевой закон, имеющий приоритет над всеми тремя законами:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.

Этот закон уже подразумевался в рассказе 1950 года «Разрешимое противоречие», в котором машины ради сохранения человечества, путем принятия локально-неоптимальных экономических решений, незаметно отодвинули от власти тех людей, которые не выполняли их рекомендаций и могли им угрожать. В конце концов, Азимов четко сформулировал Нулевой закон в 1985 году в романе «Роботы и империя».

Джон Слейдек в романе «Тик-Ток» придумал гениального робота-убийцу, который обнаружил, что не подчиняется законам роботехники и может делать все, что ему заблагорассудится. В романе Р. М. Аллена «Калибан» представлены традиционные роботы, подчиняющиеся трем законам, а также экспериментальный робот Калибан, который законам не подчиняется, обладает полной свободой воли и развивает свое собственное чувство этики. Големы из романа Пратчетта «Держи марку!» имеют очень похожий вариант Первого закона: «Стоп! Стоп! Есть же правило! Голем не может причинить вреда человеку или допустить, чтобы человеку был причинен вред! … Если Только Это Не Приказ, Исходящий От Вышестоящего Лица».

Дальнейшим законотворчеством занимались сразу несколько фантастов. Тун Эньчжэн предложил Четвертый закон «Робот не может влюбиться». Р. Шекли в рассказе «Робот Рекс» предлагает иную формулировку: «Робот не может быть пристрастен и помогать отдельным людям». Л. Дилов в рассказе «Роботы сознают свое предназначение» сформулировал новый закон так: «Во избежание недоразумений робот никогда не должен скрывать того, что он — робот». В книге Т. Пратчетта «Темная сторона солнца» упоминается одиннадцатый закон: «Нельзя демонтировать робота за то, что он подчинился приказу, — Одиннадцатый Закон Роботехники, клауза С, с поправкой, — твердо возразил робот…» В повести В. Чиркова «Робот в шляпе» представлен ещё один закон, действующий подобно азимовским, запрещающий роботу лгать человеку. Однако умный робот Знайка обходит этот закон: в преддверии разговора с людьми он обманывает другого робота, а тот уже, в свою очередь, повторяет версию Знайки людям, не зная, что она ложна.

© «Энциклопедия НФ» Никколса и Клюта, с изменениями