Энтропия сложной системы. Условная энтропия. Лабораторная2_Отчет. Отчет по лабораторной работе 2 Тема Энтропия сложной системы. Условная энтропия Преподаватель Курашкин С. О

• Название: Отчет по лабораторной работе 2 Тема Энтропия сложной системы. Условная энтропия Преподаватель Курашкин С. О
• Анкор: Энтропия сложной системы. Условная энтропия
• Дата: 24.05.2023
• Размер: 96.44 Kb.
• Имя файла: Лабораторная2_Отчет.docx
• Тип: Отчет; #1157303
• страница: 9 из 9

Канальная матрица от приемника к источнику y->x

	Пробел	о	е	а	и	н	т	с	р	в
Пробел	0,0000	0,0665	0,0179	0,0063	0,0823	0,0981	0,0432	0,1013	0,0200	0,1023
о	0,2106	0,0017	0,0394	0,0000	0,0068	0,0651	0,0856	0,0497	0,0599	0,0548
е	0,2260	0,0000	0,0246	0,0000	0,0049	0,0934	0,0319	0,0713	0,0663	0,0049
а	0,1749	0,0033	0,0000	0,0000	0,0000	0,0429	0,0594	0,0363	0,0330	0,0297
и	0,3045	0,0035	0,0277	0,0000	0,0138	0,0623	0,0588	0,0138	0,0138	0,0554
н	0,1053	0,2353	0,1641	0,1610	0,1269	0,0681	0,0031	0,0031	0,0000	0,0000
т	0,0648	0,2423	0,0648	0,1229	0,1058	0,0614	0,0068	0,0102	0,0853	0,0341
с	0,0577	0,0846	0,1385	0,0385	0,0269	0,0077	0,2731	0,0077	0,0038	0,0385
р	0,0048	0,1981	0,1981	0,1643	0,1208	0,0145	0,0338	0,0048	0,0000	0,0048
в	0,1624	0,1827	0,1371	0,0761	0,0254	0,0203	0,0051	0,2081	0,0406	0,0000
л	0,1359	0,2136	0,1068	0,0971	0,1214	0,0049	0,0194	0,0728	0,0000	0,0000
к	0,1133	0,3067	0,0133	0,3000	0,1000	0,0133	0,0200	0,0133	0,0467	0,0333
м	0,2286	0,2057	0,1771	0,0629	0,1143	0,0514	0,0000	0,0000	0,0000	0,0000
д	0,0160	0,1440	0,1360	0,2160	0,1200	0,0720	0,0080	0,0000	0,0720	0,0000
п	0,0000	0,3565	0,0870	0,0435	0,0348	0,0087	0,0000	0,0000	0,3739	0,0000
у	0,2042	0,0000	0,0070	0,0000	0,0000	0,0000	0,0423	0,0563	0,0352	0,0211
я	0,5313	0,0000	0,0000	0,0000	0,0000	0,0313	0,1458	0,0208	0,0000	0,0000
ы	0,1304	0,0000	0,0290	0,0000	0,0000	0,0000	0,0435	0,0580	0,0145	0,0145
з	0,0833	0,0714	0,0119	0,2619	0,0357	0,1905	0,0000	0,0000	0,0357	0,1071
ъ	0,4493	0,0000	0,0725	0,0000	0,0000	0,1014	0,0000	0,1304	0,0000	0,0000
б	0,0109	0,2174	0,1630	0,0000	0,0435	0,0109	0,0000	0,0217	0,0326	0,0000
г	0,0225	0,6180	0,0112	0,0337	0,0112	0,0112	0,0000	0,0112	0,0674	0,0000
ч	0,0000	0,0000	0,3375	0,1125	0,1625	0,0375	0,2375	0,0000	0,0125	0,0000
й	0,7660	0,0000	0,0000	0,0000	0,0000	0,0213	0,0000	0,0000	0,0000	0,0000
х	0,3673	0,4694	0,0204	0,0000	0,0000	0,0204	0,0000	0,0000	0,0000	0,0408
ж	0,0625	0,0000	0,5156	0,1563	0,0313	0,1094	0,0000	0,0000	0,0000	0,0000
ю	0,6000	0,0000	0,0000	0,0000	0,0000	0,0333	0,0333	0,0333	0,0000	0,0000
ш	0,0244	0,0000	0,2683	0,1951	0,1463	0,0488	0,0000	0,0000	0,0000	0,0000
ц	0,0870	0,0435	0,3913	0,1304	0,0435	0,0000	0,0000	0,0000	0,0000	0,0000
щ	0,0000	0,0000	0,5294	0,1176	0,1176	0,1176	0,0000	0,0000	0,0000	0,0000
э	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,9130	0,0000	0,0000	0,0000
ф	0,0000	0,0000	0,0000	0,3333	0,3333	0,0000	0,0000	0,0000	0,0000	0,0000

л	к	м	д	п	у	я	ы	з	ъ	б
0,0190	0,0591	0,0369	0,0422	0,0823	0,0338	0,0053	0,0000	0,0264	0,0000	0,0485
0,0531	0,0103	0,0531	0,0411	0,0068	0,0000	0,0120	0,0000	0,0188	0,0000	0,0342
0,0835	0,0270	0,0934	0,0369	0,0172	0,0049	0,0000	0,0000	0,0270	0,0000	0,0172
0,0924	0,0990	0,0858	0,0198	0,0165	0,0000	0,0759	0,0000	0,0660	0,0000	0,0099
0,0934	0,0242	0,0761	0,0138	0,0035	0,0000	0,0208	0,0000	0,0484	0,0000	0,0173
0,0000	0,0031	0,0000	0,0031	0,0000	0,0433	0,0186	0,0433	0,0000	0,0217	0,0000
0,0034	0,0068	0,0000	0,0034	0,0034	0,0273	0,0205	0,0102	0,0000	0,1229	0,0000
0,0500	0,0308	0,0231	0,0000	0,0192	0,0231	0,1308	0,0000	0,0000	0,0231	0,0000
0,0048	0,0193	0,0145	0,0000	0,0097	0,0918	0,0290	0,0193	0,0097	0,0242	0,0097
0,0203	0,0000	0,0000	0,0102	0,0254	0,0051	0,0000	0,0660	0,0051	0,0000	0,0000
0,0000	0,0146	0,0000	0,0000	0,0000	0,0534	0,0340	0,0097	0,0000	0,0922	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0400	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0057	0,0000	0,0000	0,0800	0,0343	0,0286	0,0000	0,0057	0,0000
0,0080	0,0080	0,0000	0,0080	0,0160	0,0800	0,0080	0,0320	0,0000	0,0480	0,0000
0,0087	0,0000	0,0000	0,0000	0,0000	0,0348	0,0174	0,0174	0,0000	0,0174	0,0000
0,1127	0,0211	0,0282	0,0845	0,0070	0,0000	0,0000	0,0000	0,0000	0,0000	0,0352
0,0521	0,0313	0,0104	0,0000	0,0417	0,0000	0,0104	0,0000	0,0000	0,0000	0,0000
0,1884	0,0145	0,1304	0,0435	0,0000	0,0145	0,0000	0,0000	0,0000	0,0000	0,0145
0,0119	0,0000	0,0238	0,0476	0,0000	0,0000	0,0714	0,0238	0,0000	0,0000	0,0119
0,0000	0,0870	0,0000	0,0000	0,0000	0,0000	0,0580	0,0000	0,0145	0,0000	0,0000
0,0435	0,0109	0,0000	0,0000	0,0000	0,0978	0,0543	0,2609	0,0000	0,0109	0,0000
0,1124	0,0000	0,0112	0,0674	0,0000	0,0225	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0125	0,0000	0,0000	0,0000	0,0625	0,0000	0,0000	0,0000	0,0125	0,0000
0,0000	0,1277	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0612	0,0000	0,0000	0,0204	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0156	0,0000	0,0781	0,0000	0,0000	0,0000	0,0000	0,0000	0,0156	0,0000
0,0333	0,0000	0,0333	0,0667	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0667
0,1463	0,1463	0,0000	0,0000	0,0000	0,0244	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0435	0,0000	0,0000	0,0000	0,2609	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,1176	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0435	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,3333	0,0000	0,0000	0,0000	0,0000	0,0000

г	ч	й	х	ж	ю	ш	ц	щ	э	ф
0,0127	0,0306	0,0000	0,0127	0,0116	0,0011	0,0095	0,0042	0,0011	0,0222	0,0032
0,0514	0,0291	0,0445	0,0188	0,0171	0,0223	0,0120	0,0000	0,0017	0,0000	0,0000
0,0639	0,0344	0,0221	0,0049	0,0123	0,0098	0,0123	0,0025	0,0074	0,0000	0,0000
0,0132	0,0198	0,0066	0,0231	0,0594	0,0264	0,0033	0,0000	0,0000	0,0000	0,0033
0,0138	0,0138	0,0138	0,0346	0,0035	0,0104	0,0069	0,0450	0,0035	0,0035	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0034	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0077	0,0000	0,0038	0,0000	0,0115	0,0000	0,0000	0,0000	0,0000	0,0000
0,0048	0,0000	0,0000	0,0000	0,0048	0,0000	0,0097	0,0000	0,0048	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0102	0,0000	0,0000	0,0000	0,0000
0,0049	0,0000	0,0000	0,0000	0,0049	0,0146	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0057	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0080	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0845	0,0282	0,0141	0,0141	0,0986	0,0423	0,0282	0,0000	0,0352	0,0000	0,0000
0,0104	0,0000	0,0625	0,0104	0,0208	0,0000	0,0000	0,0208	0,0000	0,0000	0,0000
0,0000	0,0435	0,1014	0,1014	0,0145	0,0000	0,0435	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0119	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0435	0,0290	0,0145	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0217	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0125	0,0000	0,0000	0,0000	0,0000
0,0000	0,0213	0,0000	0,0000	0,0000	0,0000	0,0638	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0156	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,1000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0435	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000
0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000	0,0000

Условная энтропия сообщения H(Y/X):







Для нахождения полной энтропии системы каждая частная энтропия умножается на вероятность соответствующего состояния р_i и все произведения складываются

Условная энтропия H(Y/X) = 3,4834

Энтропия двухбуквенного сочетания H (X, Y):





Н(X) = 4,3598

H(X, Y) =H(X) +H(Y/X) = 3, 4834+ 4, 3598= 7, 8433

Вывод: закрепил теоретические знания и получил практические навыки при вычислении энтропии.