1. Жйелер теориясыны негізгі элементтерін натылап крсетііз. Жйені асиеттерін атаыз жне р асиетіне сипаттама берііз
 Скачать 2.19 Mb.
|
|
Кестенің бір символдан артық бөліктеріне осы процедураны қайталаймыз:
Сонымен әліпби символдары үшін жаңа код алынды: a – 0, b – 10, c – 110 и d – 111. аbabcaacdb хабарламасы 19 битті құрайды. 1- мысал. a, b, c, d симводары берілген олардың жиіліктері: fa = 0,5; fb = 0,25; fc = 0,125; fd = 0,125. Шеннон-Фано әдісімен тиімді кодты тұрғызыңыз. Шешуі: Алғашқы деректерді кестеге жазайық
Тұрғызылған кодтың тиімділігін формула бойынша есептейміз lср = 0,5*1 + 0,25*2 + 0,125*3 + 0,125*3 = 1,75.
Средняя длина кода К2=1∙0.49+2∙0.21+3∙0.21+3∙0.09=1.81; в расчете на один символ К1=К2/2=0.905. Коэффициент эффективности кода КОЭ = 0.88/0.905 = 0.972. 2) Составим алфавит из трёхбуквенных комбинаций.
Средняя длина кода К3=2.686; в расчете на один символ К1=К3/3=0.895. Коэффициент эффективности кода КОЭ = 0.88/0.895 = 0.983. 28. АҚПАРАТТЫҢ ҚҰРЫЛЫМДЫҚ ӨЛШЕМДЕРІН АТАҢЫЗ. ҚҰРЫЛЫМДЫҚ, ГЕОМЕТРИЯЛЫҚ, АДДИТИВТІ ӨЛШЕМДЕРГЕ ТОЛЫҚ СИПАТТАМА БЕРІҢІЗ. АДДИТИВТІ ӨЛШЕМГЕ МЫСАЛ КЕЛТІРІҢІЗ. Ақпараттар теориясы– бұл ақпаратты алу, түрлендіру, жинау, өңдеу және беру жайлы ғылым. Құрылымдық теория жеке ақпараттық хабарламаларды құру құрылымын қарастырады. Статистикалық теория анықталмағандық өлшемі тұрғысынана ақпаратты бағалайды. Семантикалық теорияақпараттыңмағыналық сипаттамаларын оқытады: бағалылығы, пайдалылығы, тиімділігі, ақпаратты өткізу қабілеттілігі, ақпараттық бөгеуілге тосқауыл беруі және құрамы. Құрылымдық теорияда ақпараттың геометриялық, комбинаторлық және аддитивтік өлшемдері қарастырылады. Ең кең тарағаны- екілік аддитивтік өлшем, ол Хартли өлшемі (1928ж.) деп те аталады. Ақпараттың саны екілік өлшеммен - битпен өлшенеді. I=log2m, мұндағы, I – ақпарат саны немесе көлемі m – элементтер саны Геометриялық өлшем ақпарат көлемін бағалайды. Комбинаторлық өлшем ақпаратты әр түрлі комбинациялармен өрнектегенде қолданылады. Мысалы, 1110 саны берілген. 0 саны орын ауыстырғаннан кейін комбинация өзгерді: 0111. Яғни, 14 саны 7-ге ауысты. 29. ШУЛЫ КАНАЛДАРДАҒЫ АРТЫҚТЫҚҚА АНЫҚТАМА БЕРІҢІЗ ЖӘНЕ СИПАТТАҢЫЗ. МЫСАЛ КЕЛТІРІҢІЗ. ӨЗАРА АҚПАРАТ ЖӘНЕ ОРТАША ӨЗАРА АҚПАРАТҚА АНЫҚТАМА БЕРІҢІЗ ЖӘНЕ ФОРМУЛАЛАРЫН ЖАЗЫҢЫЗ. ҚАСИЕТТЕРІН АТАҢЫЗ. Кодтау мақсаты – тасымалдауға немесе ақпаратты сақтауға кететін шығындарды азайту. Есептің шешімі жіберілетін мәліметтер ағымынан артық ақпаратты «жою» деп түсіндіруге болады. Жіберілетін ақпаратты байланыс каналдары арқылы жіберу кезіндегі бөгеуілдер мен бұрмалаудан қорғау немесе ақпаратты сақтау мақсатында кодтау қарастырылады. Тиімді байланыс жүйесін құру үшін жіберілетін ақпараттың көлемін азайту мақсатында алдымен хабарламадағы артықты жоюға, содан кейін ақпаратты қателіктерден қорғау үшін артықтықты енгізу керек. Шумен күресу теорияcының ең маңызды идеясы мынада, байланыс каналы бойынша берілген код артықтық (избыточность) болуы керек. Код артықтығы – бұл берілетін ақпараттың немесе деректердің бірнеше рет қайталануы. Код артықтығы өте үлкен бола алмайды. Себебі бұл байланыстың қымбаттауына және кешеуілдеп жетуіне ықпал етеді. Кодтау теориясы оңтайлы кодты алуға тырысады: берілетін ақпарат артықтығы мүмкіндігінше минимум, ал қабылданған ақпарат нақтылығы максимум болуы тиіс.  Энтропиясы үлкен (максимум) хабарламалар берілген ақпараттың символының санына қатысты оңтайлы болып табылады. Сандық бағалау өлшемі сығу коэффициентімен бағаланады: мұндағы Н(ξ) – нақты хабарлама энтропиясы, max H(ξ) – нақты хабарламаға сәйкес оңтайлы энтропия.  Артықтықты сандық бағалау өлшемі артықтық коэффициенті болып табылады.    Мысалы. Хабарламалар көзі алфавитінен символдар береді. Символдарды беру ықтималдықтары: Ақпарат саны мен артықтығын табу керек. Шешуі. Шеннон формуласы бойынша  битАртықтық анықтамасы бойынша  Канал коды деп алфавит үстіндегі A={xm}, m=1,…,M , A Xn кез келген тізбектер жиыны айтылады. Тізбектердің өзі кодтық сөз, олардың ұзындығы n код ұзындығы, тізбектер саны М код қуаттылығы деп аталады, ал R = logM / n мәні код жылдамдығы деп аталады. Код жылдамдығы бит канал символымен өлшенеді. Жекелей жағдайда M=2k болған кезде әрбір кодтық сөзге k ақпараттық символдан тұратын тізбекті сәйкестендіруге болады (k бит). Оларды жіберу үшін n ұзындықты кодтық сөз қолданылады. Канал символына биттерді жіберу жылдамдығы R = logM / n = k / n бит/символын құрайды. Өзара ақпарат. Орташа өзара ақпарат. Байланыс каналдарын меңгеру барысында канал кірісінде бақыланатын символдар бойынша хабарламаны жіберу туралы ақпарат алу мүмкіндігі туындайды. X және Y дискретті ансамбльдердің XY = {(x, y), p(x, y)} берілген көбейтіндісі үшін y ∈Y шығыс символдарында болатын кіріс ансамблінің x ∈ X элементтері туралы ақпаратты сандық түрде өлшеу керек болса, онда мұндай ақпаратқа сәйкес келетін шама (x, y)∈ XY кез келген жұптары үшін I (x; y) = I (x) − I (x | y) арақатынасымен анықталатын өзара ақпарат бар болады. | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||