Сколько бит информации получено из сообщения "Мой друг живет на 8 этаже", если в доме 16 этажей?

Информационная неопределенность (количество возможных результатов события) равна 16. Будем задавать вопросы, на которые можно ответить только "да" или "нет". Вопрос будем ставить так, чтобы каждый ответ приносил 1 бит информации, т. е. уменьшал информационную неопределенность в два раза.

Задаем вопросы: - Друг живет выше 8-го этажа?

Нет.

После этого ответа число вариантов уменьшилось в два раза, следовательно, информационная неопределенность уменьшилась в два раза. Получен 1 бит информации.

Друг живет выше 4-го этажа?

Да.

Число вариантов уменьшилось еще в два раза, получен еще 1 бит информации.

Друг живет выше 6-го этажа?

Да.

После данного ответа осталось два варианта: друг живет или на 7 этаже, или на 8 этаже. Получен еще 1 бит информации.

Друг живет на 7-м этаже?

Нет.

Все ясно. Друг живет на 8-м этаже.

Каждый ответ уменьшал информационную неопределенность в два раза. Всего было задано 4 вопроса. Получено 4 бита информации. Сообщение о том, что друг живет на 8-м этаже 16-ти этажного дома несет 4 бита информации.