JК
Фрайди ( Пятница, которая убивает Меня зовут Фрайди) :: Хайнлайн Роберт
Страница: 144 из 542Нет, Джордж, лично я полечу с Жаном, а не с твоим ИС, которое в конце концов станет ненавидеть род людской.
Только не с моим ИС, дорогая, мягко поправил меня Джордж. — Разве ты не заметила, в каком наклонении я все время обсуждал этот проект?
— Нет. Мне кажется…
— В сослагательном. Потому что ты не сказала мне сейчас ничего нового. Я никогда над этим не работал и не стану работать. Я способен создать такого пилота. Но я не способен встроить в это ИС то этическое восприятие, какое есть у Жана.
— Может быть, мне стоит на предстоящей встрече потребовать, чтобы любой пилот, будь он ИЧ, или ИС, проходил этический тест? — подумав спросил Жан.
— Какой тест, Жан? Я не знаю способа всунуть в него этические понятия, а Мардж только что убедительно объяснила, почему в данном случае не помогут никакие тренировки и обучения. Но так или иначе, каким тестом ты это обнаружишь? — Джордж повернулся ко мне. — Знаешь, когда я был студентом, — сказал он, — я читал старинные рассказы о роботах-гуманоидах… Да, очаровательные рассказы, и многие из них были основаны на, как их называли, законах роботехники. Главным в этих законах было то, что в каждого робота вводилось основное правило: он никогда не мог ни прямо, ни косвенно причинить вред человеку.
Только не с моим ИС, дорогая, мягко поправил меня Джордж. — Разве ты не заметила, в каком наклонении я все время обсуждал этот проект?
— Нет. Мне кажется…
— В сослагательном. Потому что ты не сказала мне сейчас ничего нового. Я никогда над этим не работал и не стану работать. Я способен создать такого пилота. Но я не способен встроить в это ИС то этическое восприятие, какое есть у Жана.
— Может быть, мне стоит на предстоящей встрече потребовать, чтобы любой пилот, будь он ИЧ, или ИС, проходил этический тест? — подумав спросил Жан.
— Какой тест, Жан? Я не знаю способа всунуть в него этические понятия, а Мардж только что убедительно объяснила, почему в данном случае не помогут никакие тренировки и обучения. Но так или иначе, каким тестом ты это обнаружишь? — Джордж повернулся ко мне. — Знаешь, когда я был студентом, — сказал он, — я читал старинные рассказы о роботах-гуманоидах… Да, очаровательные рассказы, и многие из них были основаны на, как их называли, законах роботехники. Главным в этих законах было то, что в каждого робота вводилось основное правило: он никогда не мог ни прямо, ни косвенно причинить вред человеку.