Методические указания

Если ПНК работает со скоростью v отсчетов в секунду в течение времени T , а для хранения каждого из отсчетов требуется n дво-

ичных разрядов, то общее количество информации, подлежащее хранению, будет равно:

I∑хр =v T n =v T H0 =VЗУ

так как

Iхр(1) =n =logms = H0.

Пропускная способность ЗУ может быть определена как произведение емкости ЗУ VЗУ на частоту обращения Fобр к ЗУ:

CЗУ =VЗУ Fобр =k n Fобр

или

CЗУ =v T H0 Fобр.

6.5. Информационный критерий построения многоступенчатого ЗУ.

Кроме упомянутых выше показателей для характеристики ЗУ могут быть использованы информационно-статистические характеристики, зависящие от частоты обращения к числам, хранящимся в ЗУ при записи и при считывании.

Если обращение к числам при записи или при считывании производится с равной вероятностью, то величина относительной энтропии

η0(A)выбора чисел будет равна 1, а статистическая избыточность

ϕ0(A)=1−η0(A)=0.

При неравновероятном и независимом обращении к числам, определяемом матрицей вида:

где ∑k p(Aj )=1, а p(Aj )— вероятность обращения к числу Aj

j =1

относительная энтропия и избыточность ЗУ будут иметь значения:

97

Наличие избыточности при оценке ЗУ указывает на неравномерный в вероятностном смысле характер использования чисел и возможность построения многоступенчатого ЗУ с минимальной избыточностью для каждой из ступеней и различным быстродействием.

Размещение числовой информации в ЗУ по ступеням с одинаковой частотой обращения в каждой из них более экономично, поскольку для чисел с большой частотой обращения потребуются высокочастотные элементы, стоимость которых выше, чем низкочастотных.

Таким образом, основными характеристиками, которые могут быть использованы для описания и оценки статистических свойств сигналов и каналов информационных систем хранения информации, являются энтропия, информационная избыточность и пропускная способность.

98

7.Измерение информации.

7.1.Исходные положения.

Измерение — есть процесс нахождения значений физической величины опытным путем с помощью специальных технических средств. В ИВК процесс измерения как входных, так и промежуточных величин завершается представлением измерительной информации в форме, удобной для дальнейшего использования. При этом измерительную информацию можно представить как совокупность сообщений о значениях измеряемых величин. В общем случае измеряемые величины могут быть представлены такими физическими параметрами

как напряжение постоянного (U− ) или переменного (U~ ) тока, сдвиг по фазе напряжения переменного тока (α~ ), временной интервал (τ), частота напряжения переменного тока (f~ ), сопротивление (R) или проводимость (Y ) резистора, угловое (ϕ) или линейное (L)перемещение и др.

Если S рассматривать как обобщающий символ аналоговой формы представления перечисленных выше физических параметров, то можно записать:

S (U−;U~ ;α~ ;τ; f ; R; Y;ϕ; L;K).

Для представления результатов измерения в ИВК в общем случае могут быть использованы различные цифровые коды, такие как уни-

тарный (N1 ), двоичный (N2 ), троичный (N3 ), восьмеричный

(N8 ), двоично-десятичный (N2−10 ), десятичный (N10 )и др.

Если N — обобщающий символ цифровой формы представления информации, то:

N(N1; N2; N3; N8; N2−10 ;K).

7.2.Оценка измерительного процесса без учета помех.

Все измерительные процессы являются случайными, вследствие чего их математические модели строятся на основе теории вероятностей.

Пусть случайная величина X , подлежащая измерению, характеризуется мгновенными значениями xi с равновероятным распределе-

нием и разрешающей способностью

99

ma = xmax −xmin +1,

2 x

где xmax и xmin — наибольшее и наименьшее значения мгновен-

ных значений xi амплитуд измеряемых величин; ± x — погреш-

ность измерения.

Максимальное число различимых градаций мощности:

mp = Pmax −Pmin +1,

2 x2

где Pmax и Pmin — соответственно, наибольшая и наименьшая

мощности, выделяемые на сопротивлении x2 .

Для цифровых измерительных приборов

mц = f τ +1,

где f — частота счета; τ — время успокоения. При m >>1 еди-

ницей можно пренебречь.

Вероятность появления любого случайного значения xi имеет сле-

Получаемое при этом количество информации:

I(x)=logm =−log p(xi ).

В случае неравновероятного распределения m информационная энтропия случайного процесса будет:

Процесс измерения непрерывных сигналов при его идеализации характеризуется тем, что погрешность измерения В этом случае вероятность появления измеряемого сигнала

7.2 может быть представлена в виде:

100

=− ∞∫ p0 (xi )log p0 (xi )dx +C.

−∞

В практическом отношении величина x всегда ограничена и, как будет показано ниже, вторым слагаемым можно пренебречь, поскольку при вычислении разностей значений энтропий оно все равно исчезает.

В соответствии с изложенным исходная (априорная) энтропия не-

В этом случае количество информации полученное в результате измерения, будет равно энтропии H(xвх ), то есть:

I(xвх; xвых)= H(xвх )−0.

Пример 7.1. Пусть измерительный прибор имеет шкалу, соответст-

вующую диапазону измерений (xa )max −(xa )min =100% и погреш-

ность xa =±1%. Определить количество информации, получае-

мое от измерительного прибора.

Решение. Максимальное число различимых градаций амплитуд измеряемой величины составит:

m =1002 +1=51.

Количество информации, получаемое в процессе измерения, будет:

101

Полагая, что помеха действует только на входе измерительного прибора, ее условную энтропию можно выразить как:

Энтропийная трактовка процесса измерения. Пусть измеряемая ве-

личина x изменяется в диапазоне xn ÷x0 (отс.7.1) при использова-

нии шкалы с m делениями. В качестве меры неопределенности числового значения измеряемой величины может быть принята апри-

орная энтропия H0(x) в интервале x0 ÷xm с числом делений m .

Для этого случая:

H0(x)шк =logm =−log p0(x)

При отсутствии априорной информации о законе распределения измеряемой величины он принимается равномерным, вследствие чего:

H0(x)=−log p0(x)=log(xn −x0 )= H0(x)шк.

В общем случае, при априорном неравновероятном распределении измеряемой величины имеем:

I(x)ИЗМ , полученное после измерения, было бы:

I(x)ИЗМ = H1(x)−H(x)ИЗМ = H0(x).

Однако, это невозможно из-за ограничения разрешающей способности шкалы, а следовательно, и результата измерения.

103

Для количественной оценки результата измерения обозначим цену деления шкалы xi+1 −xi как x , а априорную плотность распреде-

ления вероятности результата измерения через

p0(x)= p0 (xi ) x.

Тогда (с учетом того, что логарифм произведения равен сумме логариф- мов):

m

H1(x)=− lim ∑ p(x) xlog[p(x) x]=

x→0

(n→∞) 0

=x∫mp(x)log p(x)dx+C.

x0

(7.4)

Аналогично, апостериорная энтропия результата измерения будет:

H(x)ИЗМ =−x∫jp(x)log p(x)dx+C.

xi

Тогда:

104

или :

I(x)ИЗМ = H0(x)−H(x)ИЗМ < H0(x).

Таким образом, в результате измерения происходит сужение интервала неопределенности, т.е. уточнение размера измеряемой величины.

Рис.7.1. Энтропийная трактовка процесса измерения.

Энтропийная оценка погрешности измерения.

Вкачестве параметра информационной модели процесса измерения может быть использовано энтропийное значение погрешности измерения.

Вэтом случае количество информации I(x)в измеряемой величине

xопределяется в соответствии с выражением

I(x)= H(x)−H xи xр ,

где H(x)– априорная энтропия измеряемой величины x до ее измерения;

105

H xи xр — условная апостериорная энтропия истинного значе-

ния измеряемой величины xи при условии, что после измерения получен результат измерения xр .

Величины xи и xр имеют разные значения в связи с воздействием

случайных помех, порождающих составляющую случайной погрешности.

При таком подходе принимается, что до начала измерения известен закон распределения измеряемой величины в соответствии с

которыми величина x может принимать любое значение в заданном диапазоне измерения.

После получения результата измерения xр остается неопределен-

ность относительно истинного значения xи из-за наличия случайной

погрешности.

Такое состояние процесса измерения описывается условной вероят-

основании известных выражений для энтропии можно записать:

H(x)=− ∞∫ p1(x)log p1(x);

−∞

H xи xр =−−∞∫∞ p2 xи xр log p2 xи xр .

В качестве исходной (эталонной) ситуации используется равномер-

106