Главная > Математика > Теория информации
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

8.5. Двоичные каналы

1. Простейшим частным случаем полностью симметричного канала является двоичный симметричный канал, имеющий два состояния на входе и на выходе, и матрицу вероятностей перехода

Согласно (8.4.5), (8.4.6) пропускная способность такого канала осуществляется при равномерных распределениях

и в силу (8.4.7) оказывается равной

Из (8.5.1), (8.5.2) имеем

Вычислим для двоичного симметричного канала термодинамический потенциал (7.4.3), позволяющий оценить вероятность ошибки декодирования (7.4.2) в соответствии с теоремой 7.3. Подставляя (8.5.2), (8.5.4) в (7.4.3), получаем

Уравнение (7.4.4) согласно (8.5.5) принимает вид

а коэффициент а в экспоненте (7.4.2) можно записать

Формулам (8.5.7), (8.5.6) можно придать более удобную форму, вводя вместо новую переменную

Тогда, учитывая, что

из (8.5.7) будем иметь

Аналогичным образом упрощаем уравнение (8.5.6) и получаем уравнение

Учитывая (8.5.9), (8.5.3), видим, условие означает неравенство

т. е. так как поскольку Значению как видно из (8.5.9), соответствует значение

Когда возрастает до С, значение уменьшается до

Более сильные результаты получаются при помощи теоремы

7.5, на чем, однако, мы не будем останавливаться.

2. Рассмотрим теперь двоичный, но не симметричный канал характеризуемый вероятностями перехода

и функцией штрафа

Преобразование (8.3.2) в этом случае имеет вид

Ему соответствует обратное преобразование

Далее, согласно (8.5.10),

Поэтому

и формула (8.3.11) дает

где

Используя далее (8.3.12), получаем

Далее, поскольку [см. (8.2.6), (8.2.17)], из (8.5.11), (8.5.12) получаем

В частности, если условие с с отсутствует, то, полагая находим

В другом частном случае, когда (симметричный канал), из (8.5.13) будем иметь

что естественно совпадает с (8.5.3).

<< Предыдущий параграф Следующий параграф >>
Оглавление