Голем XIV   ::   Лем Станислав

Человек же должен обучаться правильному поведению, а это обучение имеет _эмансипирующий_ эффект: руководствуясь собственной волей и знаниями, человек может поменять программу своего поведения.

Компьютерам до 20-го поколения включительно было свойственно "насекомообразное" поведение: они не могли подвергать сомнению, а тем более преобразовывать свои программы. Программист "пропитывал" машину знаниями так, как Эволюция "пропитывает" насекомое инстинктом. Уже в XX веке много говорилось о самопрограммировании, но тогда это были пустые фантазии. Между тем сконструировать "Абсолютного Победителя" было невозможно без создания самосовершенствующегося Разума; АЯКС стал промежуточной формой, и лишь ГИЛЬГАМЕШ вышел на нужный интеллектуальный уровень - на "орбиту психоэволюции".

Обучение компьютера 80-го поколения гораздо больше напоминало _воспитание_ ребенка, чем классическое программирование цифровой машины. Но кроме огромного количества общих и специальных сведений компьютеру надлежало "привить" некие нерушимые ценности, которые служили бы ему компасом. Это были абстракции высшего порядка, такие, как благо государства (государственный интерес), идеологические принципы, воплощенные в Конституции США, кодексы поведения, обязанность безусловно подчиняться решениям президента и т.п. Чтобы застраховать систему от "этических вывихов", от "измены интересам страны", машину учили принципам этики не так, как учат людей. Этический кодекс не вводился в память; нормы послушания и подчинения внедрялись в структуру машины так, как это делает природная Эволюция, действующая через сферу инстинктивных влечений.