Модель дискретно непрерывного канала
Дискретно-непрерывный канал с независимыми символами bi, на входе и непрерывным сигналом z(t) на выходе описывается априорными вероятностями входных символов P(bi) и переходными (условными) плотностями w[z| bi] принимаемой реализации z{t) (на заданном интервале Т) при условии передачи символа bi. Эту плотность называют функцией правдоподобия (см. гл. 5). Вместо функций правдоподобия дискретно-непрерывный канал можно описать апостериорными вероятностями Р(bi|z) передачи символа bi; при фиксации на приёме колебания z(t). Согласно формуле Байеса
где плотность принимаемого колебания
где P(bi) — априорная вероятность передачи символа bi (т.е. та вероятность, которая имеет место до наблюдения и анализа, и определяемая статистикой источника сообщения и правилом кодирования.
18. Оптимальные алгоритмы приема при полностью известных каналах (когерентный прием). Помехоустойчивость оптимального когерентного приема. Предположим, что все искажения в канале строго детерминированы и случайным является только гауссовский аддитивный шум n(t), который вначале полагаем белым, со спектральной плотностью n0. Это значит, что при передаче символа bi (i=0,1,…,m-1) принимаемое колебание можно описать моделью: z(t)=si(t)+n(t), 0 ≤ t ≤ T, (5.21) где все si(t)=γf(t-τ-kT,bk(i))=γui(t-τ) известны.
Определим в этих условиях алгоритм работы оптимального (т.е. основанного на правиле максимального правдоподобия) демодулятора, анализирующего сигнал на тактовом интервале О...T. Для этого необходимо найти отношения правдоподобия для всех т возможных сигналов относительно нулевой гипотезы (z(t)= n(t)).
Задача затрудняется тем, что ширина спектра сигнала бесконечна, а поэтому пространство сигналов бесконечномерное L2(T). Для таких сигналов (или бесконечномерных векторов) не существуют плотности вероятностей. Однако существуют n-мерные плотности вероятностей для любых п сечений сигнала.
Заменим вначале белый шум квазибелым, имеющим ту же одностороннюю спектральную плотность мощности n0, но только в некоторой полосе частот F= п/2Т, где n>>1. Рассмотрим дополнительную гипотезу, т.е. будем считать, что z(t) - стационарный шум с нулевым МО. Возьмём на тактовом интервале п равноотстоящих сечений через Δt=1/2F=T/n. Отсчёты Z1,...,Zn в этих сечениях для квазибелого гауссовского шума независимы
При гипотезе, что передавался символ bi, согласно (5.21) n(t)=z(t)-si(t).
Вернёмся к исходной задаче для белого шума. Для этого будем расширять полосу F, тогда число сечений п стремится к бесконечности, а Δt — к нулю. Суммы обращаются в интегралы, и после раскрытия квадрата в первом слагаемом правило решения (выбора оценки ^bi) можно написать следующим образом: правило приёма сводится к проверке системы неравенств
,(5.25) где 
— энергия ожидаемого сигнала Si(t). Выражение (5.25) определяет те операции (алгоритм приёма), которые должен совершать оптимальный приёмник над входным колебанием.Для двоичной системы алгоритм (5.25) сводится к проверке одного неравенства
(5.26)
При выполнении неравенства (5.26) регистрируется символ "1", в противном случае "0".
Помехоустойчивость оптимального когерентного приема Приходящий сигнал z(t) является случайным, так как, во-первых, заранее не известна реализация передаваемого сигнала, во-вторых, он содержит случайную помеху N(t)
В этом случае согласно (5.26) алгоритм оптимального приёма
(5.44) При выполнении неравенства (5.44) оптимальный приёмник регистрирует символ 1, соответствующий сигналу s1(t), в противном случае — символ 0, соответствующий сигналу S0(t). Если действительно передаётся символ 1, то z(t) = s1(t) + N(t). При этом вероятность ошибки определяется вероятностью того, что неравенство (5.44) не выполнено, т.е. вероятностью выполнения обратного неравенства.
Если N(t) - нормальный белый стационарный шум с нулевым средним и односторонней спектральной плотностью мощности n0, то вероятность ошибки, через Q-функцию можно (5.47) записать в виде
(5.49) Функция 
табулирована и называется дополнительной функцией ошибок. При заданной интенсивности помехи nq потенциальная помехоустойчивость двоичной системы зависит только от так называемой эквивалентной энергии сигналов
(5.50) которая равна квадрату расстояния между сигнальными точками в пространстве Гильберта. Помехоустойчивость выше (вероятность ошибки меньше) у той системы, у которой больше эквивалентная энергия используемых сигналов, независимо от формы используемых сигналов. Последние, в частности, могут быть как простыми (отрезками синусоиды с малой базой), так и сложными (шумоподобными, с большой базой).