Формула Хартли (ОГЭ-ЕГЭ)

Информация — последовательность символов некоторого алфавита.

Алфавит — набор символов, из которых формируется сообщение.

Мощность алфавита (${\displaystyle N}$) — количество символов в алфавите.

Длина сообщения (${\displaystyle K}$)— количество двоичных символов в сообщении.

Коли́чество информа́ции в символе (${\displaystyle i}$) — количество информации в одном символе в битах.

Коли́чество информа́ции (${\displaystyle I}$) — количество информации в сообщении в битах.

Если считать, что появление символов в сообщении равновероятно, то при выборе одного из двух возможных вариантов, количество полученной информации равно 1 биту. Тогда количество вариантов ${\displaystyle N=2^{I}}$ (1) и количество информации, полученное при выборе одного из них, равно ${\displaystyle I}$ бит.

Чтобы получить из формулы (1) количество информации ${\displaystyle I}$, необходимо прологарифмировать ${\displaystyle N}$ по основанию 2.

${\displaystyle I=\log _{2}N}$ — формула Хартли

Эта формула универсальна и подходит для любых значений ${\displaystyle N}$. В случае, когда ${\displaystyle N}$ не равно целой степени числа 2, количество информации в битах получается дробным. Тогда полученное значение округляют до ближайшего большего значения^[2].

С помощью формулы Хартли можно вычислить теоретическое количество информации в сообщении:

${\displaystyle I=K\log _{2}N}$, где ${\displaystyle N}$ — количество символов в используемом алфавите (мощность алфавита), ${\displaystyle K}$ — длина сообщения (количество символов в сообщении), ${\displaystyle I}$ — количество информации в сообщении в битах.

Пусть мощность алфавита составляет 50 символов. А сообщение содержит 100 символов.

• каждый символ несёт количество информации: ${\displaystyle i=\log _{2}50\approx 5,644}$ бита;
• общий информационный объём сообщения: ${\displaystyle I=5,644\cdot 100=564,4}$ бита.

На практике каждый символов алфавита, содержащего 50 символов, буде закодирован с помощью 6 бит.

Для успешной сдачи государственных экзаменов по информатике необходимо знать основные понятия и методы, используемые при измерении количества информации и уметь подсчитывать информационный объём сообщения, используя алфавитный подход и формулу Хартли^[3].