Избыточность

del.icio.us del.icio.us
Digg Digg
Furl Furl
Reddit Reddit
Rojo Rojo
Add to OnlyWire

Избыточтость - это термин из теории информации, означающий превышение количества информации, используемой для передачи или хранения сообщения, над его информационной энтропией. Для уменьшения избыточности применяется сжатие данных без потерь, в то же время контрольная сумма применяется для внесения дополнительной избыточности в поток, что позволяет производить исправление ошибок при передаче информации по цифровым каналам вносящим искажения (спутниковая трансляция, беспроводная передача и т.д.).

Количественное определение

Информационное содержание одного сообщения в потоке, в наиболее общем случае, определяется как:

r=\mathbb E H(M_t|M_{t-1},M_{t-2},M_{t-3}, \dots)

Обозначим как R логарифм числа символов в алфавите сообщений:

R = \log |M| ,\,

Абсолютная избыточность может быть определена как разность этих двух величин:

D = Rr

Соотношение \frac D R называется относительной избыточностью и дает математическую оценку максимальной степени сжатия, на которую может быть уменьшен размер файла.

Другие определения избыточности

Мера избыточности между двумя переменными — взаимная информация.

См. также


This article is from Wikipedia. All text is available under the terms of the GNU Free Documentation License.


Giant Panda

Mercedes Car
James Bond Guide
This site monitored by SitePinger.net