Задача 3.

3.1. Дайте определение понятиям энтропия, производительность источника и пропускная способность канала.

3.2. Перечислите свойства энтропии. Поясните каждое из перечисленных свойств.

3.3. Найти пропускную способность m-ичного симметричного канала без памяти и стирания по числовым заданным значениям.

Исходные данные: =7;

В=800 бод,

р=0,02.

Решение.

3.1. В теории связи основное значение имеет не количество информации, содержащееся в отдельном сообщении, а среднее количество информации, создаваемое источником сообщений. Среднее значение (математическое ожидание) количества информации, приходящееся на одно элементарное сообщение, называется энтропией источника сообщений.

Как видно из формулы, энтропия источника определяется распределением вероятностей выбора элементарных сообщений из общей совокупности. Обычно отмечают, что энтропия характеризует источник с точки зрения неопределенности выбора того или иного сообщения. Энтропия всегда величина вещественная, ограниченная и неотрицательная: Н(А)>0.

Физически энтропия Н(А) выражает среднюю неопределенность состояния источника сообщений и является объективной информационной характеристикой источника. Энтропия всегда положительна и принимает максимальное значение H_max(A) =log₂i при равновероятных сообщениях.

Для источника с зависимыми сообщениями энтропия также вычисляется как математическое ожидание количества информации этих сообщений. Следует отметить, что полученное в этом случае значение энтропии меньше, чем источника независимых со­общений. Это физически следует из того, что при наличии зависимости сообщений неопределенность выбора уменьшается и, соответственно, уменьшается энтропия.

Под производительностью источника понимают среднее количество информации, создаваемой источником в единицу времени. Если за время t_H источник дискретных сообщений выдал п сообщений, то количество произведенной им информации I(A,t_H)=nH(A) и производительность источника, бит/с,

где t_cp=tH/n — средняя длительность сообщения. Следовательно, производительность источника численно равна отношению энтропии источника к средней длительности сообщения.

Наибольшее значение скорости R передачи информации по каналу связи при заданных ограничениях называется пропускной способностью канала, бит/с:

С=maxR.

Под заданными ограничениями понимают тип канала (дискретный или непрерывный), характеристики сигналов и помех. Напомним, что канал называют дискретным, на входе и выходе которого имеются дискретные сигналы, непрерывным называется канал, на входе и выходе которого имеются непрерывные сигналы.

Пропускная способность дискретного канала С_дк, по которому передается m дискретных сигналов, вычисляется по формуле:

где — минимальная длительность сигнала; p — вероятность ошибки сигналов в канале. Из формулы следуют частные случаи: в дискретном канале без помех

=B log₂ m,

в двоичном канале:

где - скорость модуляции, бод.

3.2. Вернёмся к энтропии.

Чем больше энтропия источника, тем больше степень неожиданности передаваемых им сообщений в среднем, т. е. тем более неопределенным является ожидаемое сообщение. Поэтому энтропию часто называют мерой неопределённости сообщении. При этом имеется в виду неопределенность, существующая до того, как сообщение передано. После приема сообщения (если оно заведомо принимается верно) всякая неопределенность устраняется. Это позволяет трактовать количество информации как меру уменьшения неопределенности. Можно характеризовать энтропию также как меру разнообразия выдаваемых источником сообщений.

Энтропия является основной характеристикой источника. Чем она выше, тем труднее запомнить (записать) сообщение или передать его по каналу связи. Так, например, далее будет показано, что во многих случаях необходимая затрата энергии на передачу сообщения пропорциональна его энтропии.

Перечислим основные свойства энтропии.

1. Энтропия неотрицательна, она равна нулю только для вырожденного ансамбля, когда одно сообщение передается с вероятностью 1, а остальные имеют нулевую вероятность.

2. Энтропия аддитивна. Это значит, в частности, что если рассматривать последовательность из п сообщений как одно укрупненное сообщение, то энтропия источника таких укрупненных сообщений будет в п раз больше энтропии исходного источника.

3. Если ансамбль содержит К различных сообщений, то H(A)<logK, причем равенство имеет место только тогда, когда все сообщения передаются равновероятно и независимо. Число К называется объемом алфавита источника.

3.3. Для расчёта воспользуемся формулой:

Подставляя численные значения, получаем:

Задача 4.

4.1. Дайте определение понятия помехоустойчивости.

4.2. Что понимают под потенциальной и реальной помехоустойчивостями систем связи.

4.3. Согласно исходных данных вычислите вероятность ошибки оптимального приёма сигналов двоичной ОФМ при неопределённой фазе сигнала. Как изменится вероятность ошибки при увеличении скорости модуляции В в два раза?

Исходные данные:

Мощность сигнала Р_с= 1.2 мВт;

Ширина спектра сигнала F=400 кГц,

Спектральная плотность шума Вт/Гц.

Решение.

4.1.Для электросвязи задача обеспечения помехоустойчивости является одной из главных. Система связи должна быть спроектирована и эксплуатироваться так, чтобы она при наличии помех обеспечивала заданное качество передачи сигналов и сообщений. Расчет влияния помех на передачу сигналов и разработка способов уменьшения этого влияния является основными вопросами, решаемыми в теории помехоустойчивости.

Под помехоустойчивостью системы связи понимают способность системы различать (восстанавливать) сигналы с заданной достоверностью при наличии помех. Формулировка понятия помехоустойчивости — способность системы связи противостоять вредному действию помех — адекватна вышеприведенной, но более близка к физическому толкованию помехоустойчивости: устойчивости системы связи к помехам, способности правильно функционировать при наличии помех.

Задача определения помехоустойчивости всей системы связи в целом весьма сложна, поэтому часто определяют помехоустойчивость отдельных звеньев, например приемника при заданном способе передачи, системы кодирования, вида модуляции и т. д. В общем случае помехоустойчивость системы связи зависит от вида передаваемых сообщений, уровня и характеристик помех, параметров составных частей системы.

4.2. Для дискретной системы передачи потенциальная помехоустойчивость приёма сообщений определяется минимально возможной вероятностью ошибки при заданных условиях приёма (т.е. при заданных вероятностных моделях радиосигнала, управляющего сигнала и помехи).

Для непрерывной системы передачи потенциальная помехоустойчивость приёма сообщений определяется минимально возможным значением средней квадратической ошибки при заданных условиях приёма (т.е. при заданных вероятностных моделях радиосигнала, помехи и способа воздействия помехи на сигнал).

Потенциальная помехоустойчивость не является характеристикой какой-либо конкретной системы передачи информации, а зависит лишь от условий передачи и приёма сигналов (вида несущего колебания и вида модуляции, свойств помехи и способа её воздействия на сигнал).

Реальная помехоустойчивость — это помехоустойчивость системы связи или отдельных ее звеньев с учетом реального выполнения и настройки узлов канала электросвязи (передающего и приемного трактов, линии связи, кодека, модема и т. д.). Ведь теоретически и технологически не все узлы канала связи можно сделать идеально с требуемыми параметрами. Да и при эксплуатации имеются всегда погрешности установки параметров тех или иных узлов. Реальная помехоустойчивость зависит от множества факторов и параметров отдельных звеньев системы связи и всегда меньше теоретически предельной потенциальной помехоустойчивости.

Основы теории потенциальной помехоустойчивости разработаны в 1946 г. акад. В. А. Котельниковым. В ней решаются три основных задачи, которые и рассматриваются ниже:

1) синтез оптимального приемника, т, е. отыскание структурной схемы приемника, который обеспечивает наилучшее в том или ином смысле качество приема;

2) анализ работы оптимального приемника, т. е. вычисление качества приема сообщений (сигналов), обеспечиваемого этим приемником;

3) сравнение потенциальной и реальной помехоустойчивости. Для практики последняя задача имеет особое значение. Ведь проводить сравнение реальной помехоустойчивости различных схем, устройств, способов обработки, видов модуляции не имеет смысла. Во-первых, таких схем существует сотни и число их продолжает расти, во-вторых, низкая помехоустойчивость какой-либо схемы еще не означает, что она плохая. Может быть, просто неудачно подобраны параметры. Именно сравнение потенциальной и реальной помехоустойчивости позволяет дать оценку качества реального устройство и найти еще не использованные резервы. Зная, например, потенциальную помехоустойчивость приемника, можно судить, насколько близка к ней реальная помехоустойчивость существующих способов приема и насколько целесообразно их дальнейшее совершенствование при заданном способе передачи. Сведения о потенциальной помехоустойчивости при различных способах передачи позволяют сравнить эти способы между собой и указать, какие из них в этом отношении являются лучшими.

Значение вероятности ошибки можно вычислить для конкретной системы передачи сообщений. Эта вероятность будет характеризовать помехоустойчивость данной системы. Как правило, она оказывается больше предельно достижимой минимальной ошибки. Разница между помехоустойчивостью системы и потенциальной помехоустойчивостью системы характеризует существующие возможности повышения качества передачи информации. Существующие способы повышения помехоустойчивости (в том числе потенциальной): оптимальная фильтрация дискретных и непрерывных сигналов, выбор наиболее помехоустойчивых видов модуляции и др.

4.3. Зная ширину спектра сигнала, определим длительность импульса (импульс считаем прямоугольным)

Теперь рассчитаем энергию сигнала:

Параметр обнаружения определяется по формуле:

Выражение для расчёта вероятности ошибки при оптимальном приёме ОФМ сигналов со случайной начальной фазой имеет вид:

При увеличении скорости модуляции В в два раза длительность импульсов уменьшится, а ширина спектра - увеличится в два раза. Тогда

Теперь рассчитаем энергию сигнала:

Параметр обнаружения определяется по формуле:

При этом вероятность ошибки увеличится:

Задача 5

5.1. Какой код является корректирующим? Перечислите основные параметры этих кодов.

5.2. Поясните общий принцип построения корректирующих кодов. Что такое синдром кода?

При использовании циклического кода (7,4) с порождающим полиномом G(x)=x³ + х² +1 принята кодовая комбинация В_пр(х). Обнаружьте и исправьте ошибки в этой кодовой комбинации, если они имеются. Запишите кодовую комбинацию без ошибок.

Исходные данные: В_пр(х)= 1011000.

Решение.

5.1. Одним из способов повышения качества передачи сообщений по дискретным каналам с помехами является применение корректирующих кодов, позволяющих обнаруживать и исправлять ошибки, возникающие в канале. Сколько же ошибок может обнаружить и исправить код? Согласно теореме Шеннона, при скорости передачи информации R меньше пропускной способности канала С, существуют коды, обеспечивающие безошибочную передачу. Однако они сложны и даже еще не найдены. Предложены и используются коды, обнаруживающие и исправляющие не все, а часть ошибок.

Для описания корректирующего кода вводятся следующие параметры:

Корректирующая способность кода определяется кратностью обнаруживаемых q_o.oш и исправляемых q_l10UI ошибок, под которыми понимают гарантированное число ошибок в кодовой комбинации, обнаруживаемых или исправляемых заданным кодом. Совершенно ясно, что чем больше кратность q_о.ош и q_и.ош, тем совершенней является код.

Расстояние Хэмминга dy показывает степень различия между i-й и j-й кодовыми комбинациями. Для любых двух двоичных кодовых комбинаций кодовое расстояние равно числу несовпадающих в них разрядов.

Математически расстояние Хэмминга вычисляется как число единиц в сумме по модулю два этих кодовых комбинаций.

Кодовое расстояние — это минимальное расстояние Хэмминга для заданного кода. Перебрав все возможные пары разрешенных кодовых комбинаций и вычислив для них dij необходимо найти среди них минимальное. Это и будет кодовое расстояние do =min djj, которое полностью характеризует корректирующую способность кода.

Вес кодовой комбинации W численно равен числу входящих в нее ненулевых символов.

Относительная скорость кода R_K показывает относительное число разрешенных кодовых комбинаций в коде и вычисляется по формуле:

Величина является коэффициентом избыточности кода.

5.2. Общий принцип построения корректирующих кодов достаточно прост. Из общего числа =mⁿ возможных кодовых комбинаций значности m и основания п используются для передачи дискретных сообщений не все, а только необходимое количество М_а (естественно, М_а< М₀). Используемые кодовые комбинации называются разрешенными. Остальные М₀—М_а комбинаций считаются запрещенными, т. е. они не могут передаваться по каналу связи и их появление на приемном конце свидетельствует о наличии ошибок. По определению акад. А. А. Харкевича, корректирующим кодом является код, удовлетворяющий единственному условию: М_а< М₀. Действительно, если имеется хотя бы одна запрещенная кодовая комбинация, то возникает принципиальная возможность обнару­жения (или даже исправления) ошибок передачи.

Таким образом, любой корректирующий код является кодом с избыточностью (имеются лишние, неиспользуемые кодовые комбинации).

Одной из основных задач является выбор наилучшего способа кодировании и декодирования.

Одним из наиболее часто применяемых является синдромный способ декодирования, основанный на простом правиле: для исправления ошибки необходимо знать, не только факт ее существования, но и местонахождение. Под синдромом кода понимают контрольное число , указывающее на наличие и расположение (конфигурации) ошибок в кодовой комбинации. Заметим, что в двоичном коде синдром записывается в двоичной системе счисления, т. е. его разряды принимают значения 0 или