JК
Двухсотлетний человек :: Азимов Айзек
Страница: 26 из 56Можем ли мы обходиться с ними, как с друзьями, можем ли мы работать с ними – и не уделить им каких-то плодов этой дружбы, каких-то благ, рожденных этим сотрудничеством?
Раз человек имеет право отдать роботу любой приказ, лишь бы он не был во вред другому человеку, то простая порядочность не должна позволять ему отдавать роботу распоряжения во вред этому роботу, за исключением тех случаев, когда этого бесспорно требует спасение человеческой жизни. Чем больше власть, тем больше и ответственность, и, если роботы подчинены Трем Законам, гарантирующим безопасность людям, неужели так уж много – попросить, чтобы люди ввели закон-другой для защиты роботов?
Эндрю оказался прав. Общественное мнение сыграло ключевую роль в судах и законодательных собраниях, и в конце концов был принят закон с перечислением условий, при которых воспрещалось отдавать приказы во вред ему. В закон этот постоянно вносились поправки, а кара за его нарушение выглядела смехотворной, но принцип был провозглашен. Закон был окончательно утвержден Всемирным Законодательным собранием в день смерти Крошки-Мисс. И не по случайному совпадению. Пока шли заключительные дебаты, Крошка-Мисс упорно цеплялась за жизнь и ослабила усилия только тогда, когда пришла весть о победе. Ее последняя улыбка была отдана Эндрю. Ее последние слова были:
– Ты принес нам много радости, Эндрю.
Она умерла, держась рукой за его руку, а ее сын, невестка и внуки оставались на почтительном расстоянии от них.
12
Эндрю терпеливо ждал в приемной возвращения секретаря из кабинета.
Раз человек имеет право отдать роботу любой приказ, лишь бы он не был во вред другому человеку, то простая порядочность не должна позволять ему отдавать роботу распоряжения во вред этому роботу, за исключением тех случаев, когда этого бесспорно требует спасение человеческой жизни. Чем больше власть, тем больше и ответственность, и, если роботы подчинены Трем Законам, гарантирующим безопасность людям, неужели так уж много – попросить, чтобы люди ввели закон-другой для защиты роботов?
Эндрю оказался прав. Общественное мнение сыграло ключевую роль в судах и законодательных собраниях, и в конце концов был принят закон с перечислением условий, при которых воспрещалось отдавать приказы во вред ему. В закон этот постоянно вносились поправки, а кара за его нарушение выглядела смехотворной, но принцип был провозглашен. Закон был окончательно утвержден Всемирным Законодательным собранием в день смерти Крошки-Мисс. И не по случайному совпадению. Пока шли заключительные дебаты, Крошка-Мисс упорно цеплялась за жизнь и ослабила усилия только тогда, когда пришла весть о победе. Ее последняя улыбка была отдана Эндрю. Ее последние слова были:
– Ты принес нам много радости, Эндрю.
Она умерла, держась рукой за его руку, а ее сын, невестка и внуки оставались на почтительном расстоянии от них.
12
Эндрю терпеливо ждал в приемной возвращения секретаря из кабинета.