Аксиомы биологии   ::   Медников Борис Михайлович

Наиболее распространена двоичная единица информации – бит (от английского binary digit ). Столько информации содержится в ответе «да» или «нет» на какой-либо вопрос.

Например, любой ответ на вопрос: «Пойдете ли вы сегодня в кино?» – содержит один бит информации. А если ответов на вопрос больше двух, то есть больше выборов? Если выборы равновероятны, число битов в ответе равно двоичному логарифму (то есть логарифму при основании 2) из числа выборов.

Как этот принцип измерения информации использовать для оценки сложности описания системы? Возьмем классическое описание: «А ростом он мал, грудь широкая, одна рука короче другой, глаза голубые, волосы рыжие, на щеке бородавка, на лбу другая».

Описание очень краткое и годится только для опознавания системы «Гришка Отрепьев», но в принципе его можно сделать сколь угодно более детальным, вплоть до того, чтобы эту систему можно было воссоздать (нужно ли воссоздавать Лжедмитрия – это уже другой вопрос). Забавы ради я подсчитал, что в описании содержится около 12 бит информации.

Иными словами, дьяк сыскного приказа должен был задать 12 вопросов и получить на них 12 ответов «да» или «нет» чтобы это описание составить.

Спешу оговориться, что мои подсчеты отнюдь не так точны, как хотелось бы. Так я исходил из того, что цвета волос (черный, русый, светлый, рыжий, седой и отсутствие волос) равновероятны. Тогда информация была бы равна log 2 6 . На деле это далеко не так. Мы не знаем, с какой частотой встречались рыжие на Руси в эпоху Бориса Годунова.