Алфавитный подход к определению количества информации
АЛФАВИТНЫЙ ПОДХОД К ОПРЕДЕЛЕНИЮ КОЛИЧЕСТВА ИНФОРМАЦИИ
При хранении и передачи информации с помощью технических устройств целесообразно отвлечься от содержания информации и рассматривать ее как последовательность символов (букв, цифр, кодов цвета точек изображения и т.д.)
Исходя из вероятностного подхода к определению количества информации, набор символов знаковой системы (алфавит) можно рассматривать как возможные различные состояния (события)
Тогда, если считать, что появление символов в сообщении равновероятно, по формуле можно рассчитать, какое количество информации несет каждый символ:
N = 2 I ,
Где N -количество знаков в алфавите (мощность алфавита), I - количество информации, которое несет один знак
Информационная ёмкость знаков зависит от их числа в алфавите (мощности алфавита): чем больше их число, тем большее количество информации несёт один знак
В соответствии с алфавитным подходом количество информации, которое содержит сообщение, равно количеству информации, которое несёт один знак, умноженному на число знаков в сообщении
Количество информации одного символа текстового сообщения, набранного на компьютере, равно 8 битам, так как мощность компьютерного алфавита равна 256