28. Ақпараттың құрылымдық өлшемдерін атаңыз. Құрылымдық, геометриялық, аддитивті өлшемдерге толық сипаттама беріңіз. Аддитивті өлшемге мысал келтіріңіз.

Ақпараттар теориясы– бұл ақпаратты алу, түрлендіру, жинау, өңдеу және беру жайлы ғылым.

Құрылымдық теория жеке ақпараттық хабарламаларды құру құрылымын қарастырады.

Статистикалық теория анықталмағандық өлшемі тұрғысынана ақпаратты бағалайды.

Семантикалық теория ақпараттың мағыналық сипаттамаларын оқытады: бағалылығы, пайдалылығы, тиімділігі, ақпаратты өткізу қабілеттілігі, ақпараттық бөгеуілге тосқауыл беруі және құрамы.

Құрылымдық теорияда ақпараттың геометриялық, комбинаторлық және аддитивтік өлшемдері қарастырылады. Ең кең тарағаны- екілік аддитивтік өлшем, ол Хартли өлшемі (1928ж.) деп те аталады. Ақпараттың саны екілік өлшеммен - битпен өлшенеді.

I=log₂m,

мұндағы, I – ақпарат саны немесе көлемі

m – элементтер саны

Геометриялық өлшем ақпарат көлемін бағалайды.

Комбинаторлық өлшем ақпаратты әр түрлі комбинациялармен өрнектегенде қолданылады.

Мысалы, 1110 саны берілген. 0 саны орын ауыстырғаннан кейін комбинация өзгерді: 0111. Яғни, 14 саны 7-ге ауысты.

29. Шулы каналдардағы артықтыққа анықтама беріңіз және сипаттаңыз. Мысал келтіріңіз. Өзара ақпарат және орташа өзара ақпаратқа анықтама

БЕРІҢІЗ ЖӘНЕ ФОРМУЛАЛАРЫН ЖАЗЫҢЫЗ. ҚАСИЕТТЕРІН АТАҢЫЗ.

Кодтау мақсаты – тасымалдауға немесе ақпаратты сақтауға кететін шығындарды азайту. Есептің шешімі жіберілетін мәліметтер ағымынан артық ақпаратты «жою» деп түсіндіруге болады.

Жіберілетін ақпаратты байланыс каналдары арқылы жіберу кезіндегі бөгеуілдер мен бұрмалаудан қорғау немесе ақпаратты сақтау мақсатында кодтау қарастырылады.

Тиімді байланыс жүйесін құру үшін жіберілетін ақпараттың көлемін азайту мақсатында алдымен хабарламадағы артықты жоюға, содан кейін ақпаратты қателіктерден қорғау үшін артықтықты енгізу керек.

Шумен күресу теорияcының ең маңызды идеясы мынада, байланыс каналы бойынша берілген код артықтық (избыточность) болуы керек.

Код артықтығы – бұл берілетін ақпараттың немесе деректердің бірнеше рет қайталануы.

Код артықтығы өте үлкен бола алмайды. Себебі бұл байланыстың қымбаттауына және кешеуілдеп жетуіне ықпал етеді.

Кодтау теориясы оңтайлы кодты алуға тырысады: берілетін ақпарат артықтығы мүмкіндігінше минимум, ал қабылданған ақпарат нақтылығы максимум болуы тиіс.

Энтропиясы үлкен (максимум) хабарламалар берілген ақпараттың символының санына қатысты оңтайлы болып табылады. Сандық бағалау өлшемі сығу коэффициентімен бағаланады:

мұндағы

Н(ξ) – нақты хабарлама энтропиясы, max H(ξ) – нақты хабарламаға сәйкес оңтайлы энтропия.

Артықтықты сандық бағалау өлшемі артықтық коэффициенті болып табылады.

Мысалы. Хабарламалар көзі алфавитінен символдар береді.

Символдарды беру ықтималдықтары:

Ақпарат саны мен артықтығын табу керек.

Шешуі. Шеннон формуласы бойынша

бит

Артықтық анықтамасы бойынша

Канал коды деп алфавит үстіндегі A={x_m}, m=1,…,M , A Xⁿ кез келген тізбектер жиыны айтылады. Тізбектердің өзі кодтық сөз, олардың ұзындығы n код ұзындығы, тізбектер саны М код қуаттылығы деп аталады, ал

R = logM / n

мәні код жылдамдығы деп аталады. Код жылдамдығы бит канал символымен өлшенеді.

Жекелей жағдайда M=2^k болған кезде әрбір кодтық сөзге k ақпараттық символдан тұратын тізбекті сәйкестендіруге болады (k бит). Оларды жіберу үшін n ұзындықты кодтық сөз қолданылады. Канал символына биттерді жіберу жылдамдығы R = logM / n = k / n бит/символын құрайды.