Форум Статьи Контакты
Строительство — возведение зданий и сооружений, а также их капитальный и текущий ремонт, реконструкция, реставрация и реновация.

Избыточность информации

Дата: 15-12-2020, 13:01 » Раздел: Статьи  » 

Избыточность — термин из теории информации, означающий превышение количества информации, используемой для передачи или хранения сообщения, над его информационной энтропией. Для уменьшения избыточности применяется сжатие данных без потерь, в то же время контрольная сумма применяется для внесения дополнительной избыточности в поток, что позволяет производить исправление ошибок при передаче информации по каналам, вносящим искажения (спутниковая трансляция, беспроводная передача и т. д.).

Количественное определение

Информационное содержание одного сообщения в потоке, в наиболее общем случае, определяется как:

r = E H ( M t | M t − 1 , M t − 2 , M t − 3 , … ) {displaystyle r=mathbb {E} H(M_{t}|M_{t-1},M_{t-2},M_{t-3},dots )}

Обозначим как R логарифм числа символов в алфавите сообщений:

R = log ⁡ | M | {displaystyle R=log |M|}

Абсолютная избыточность может быть определена как разность этих двух величин:

D = R − r {displaystyle D=R-r}

Соотношение D R {displaystyle {frac {D}{R}}} называется относительной избыточностью и дает математическую оценку максимальной степени сжатия, на которую может быть уменьшен размер файла.

Другие определения избыточности

Мера избыточности между двумя случайными величинами — взаимная информация.


(голосов:0)

Пожожие новости
Комментарии

Ваше Имя:   Ваш E-Mail: