Напарник чародея   ::   Сташефф Кристофер

Таким образом, возникло противоречие между двумя аспектами программы: тем, который требовал обеспечить безопасность хозяина, и тем, который требовал повиновения. Конечно, он может нарушить приказ, чтобы спасти хозяина. Но есть ли необходимость в этом? Надо подумать. В конце концов, у него целых 5, 634 (теперь уже 5, 137) секунды. Для компьютера пять секунд – очень большое время, так что можно позволить себе подумать.

Человек в таком случае подумал бы: “А какие будут последствия для меня?” Но для мозга серии ФСС этот вопрос не важен: всякий ущерб для самого робота не имеет значения. Робота можно отремонтировать, а болевых цепей у него нет. Важно только одно: будет ли нанесен вред хозяину, во-первых, и будет ли причинен ущерб пассажирам другой машины, во-вторых. Где-то на периферии крутилась проблемка поломки другой машины. Робот просуммировал свои рассуждения и пришел к неутешительному выводу, что если будет выдерживаться прежний курс движения, то:

а) последует ущерб для хозяина;

б) последует ущерб для хозяина (пассажиров) другой машина и

в) будет повреждена вторая машина.

В качестве побочного результата будет поврежден и он сам. Следовательно, необходимо уклониться от возможного столкновения. Но хозяин приказал не вмешиваться.

Проблема приобретала чисто академический интерес, если хозяин вознамерился сам свернуть в последний момент. Может, это не лучший поступок, но не компьютеру решать, так ли это. Поэтому робот сообщил:

– Вы на курсе пересечения с другой машиной. Хотите ли повернуть...