Главная > Разное > Принципы цифровой связи и кодирования
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

1.4. Библиографические замечания и ссылки

Внастоящей главе введены основные понятия информации и ее более общей формы — взаимной информации. Мы показали, что для дискретного источника без памяти среднее количество информации на выходной символ источника, называемое энтропией, определяет теоретический предел для минимально возможного среднего числа двоичных символов на выходной символ источника, необходимое для представления выходных последовательностей источника. Этот результат обобщается на дискретные стационарные эргодические источники [см. задачу (1.3)], а также на более общие кодовые алфавиты. Затем мы ввели дискретные каналы без памяти, служащие моделями многих реальных каналов связи с шумом. Максимальная средняя взаимная информация дискретного канала без памяти, называемая пропускной способностью канала, характеризует теоретический предел для скорости, надежно передаваемой по каналу информации. Мы доказали негативную часть теоремы кодирования, которую обычно называют обращением теоремы кодирования. Полученный результат легко обобщается на все каналы без памяти.

Теоретические основы цифровой связи были заложены К. Е. Шенноном [1948]. Большинство концепций настоящей главы можно найти в более общем виде в его основополагающей работе. Другие подобные трактовки даны Фано [1961], Абрамсоном [1963], Галлагером [1968] и Джелинеком [1968а]. Те, кто предпочитает инженерным приложениям математику, могут обратиться к книгам Файнстейна [1958], Вольфовица [1961] и Эша [1965].

<< Предыдущий параграф Следующий параграф >>
Оглавление