0372_Абуганем Аусан_3PR. Условноэнтропийный, алгоритмический, семантический и прагматический (ценностный) подходы к определению количества информации
 Скачать 0.94 Mb.
|
|
МИНОБРНАУКИ РОССИИ Санкт-Петербургский государственный электротехнический университет «ЛЭТИ» им. В.И. Ульянова (Ленина) Кафедра информационных систем отчет по практической работе №3 по дисциплине «Теория информации, данные, знания» Тема: Условно-энтропийный, алгоритмический, семантический и прагматический (ценностный) подходы к определению количества информации.
Санкт-Петербург 2020 Цель работы Сформулировать ответы на вопросы с указанием источников информации. Вопросы по теме 3: Письменно ответить на вопросы. Понятие условной энтропии Сущность алгоритмического подхода к измерению количества информации. Формула А. А. Харкевича для оценки ценности информации. Решить задачи 1. Составьте информационный тезаурус по теме «информатика». 2. Приведите примеры двух последовательностей символов некоторого алфавита и предложите сравнительную оценку количества информации на основе алгоритмического подхода А. Н. Колмогорова Выполнение работы: 1.Понятие условной энтропии  {1;Ст 39} 2. Сущность алгоритмического подхода к измерению количества информации  {1;Ст 53} Формула А. А. Харкевича для оценки ценности информации.  {2;Ст 5} 4. Тезаурусный подход к оценке количества информации Попытки оценить не только количественную, но и содержательную сторону информации дали толчок к развитию семантической (смысловой) теории информации. Исследования в этой области теснее всего связаны с семиотикой – теорией знаковых систем. Семиотика исследует знаки как особый вид носителей информации. При этом знаком является условное изображение элемента сообщения, словом имеющих смысловое значение, языком – словарь и правила пользования им. Таким образом, рассуждая о количестве, содержании и ценности информации, заключённой в сообщении, можно исходить из возможностей анализа знаковых структур. В качестве знаковых систем используются естественные и искусственные языки, в том числе и языки программирования, различные системы сигнализации, логические, математические и химические символы. Сразу же заметим, что методы точного количественного определения смыслового содержания информации до настоящего времени еще не разработаны. {1;Ст 53} Решение задачи: Количество информации в сообщениях A, B, C через I(A), I(B), I(C) соответственно. сообщения разные содержание выражено с помощью разного количества символов. При этом все символы сообщения А содержатся в сообщении B и С, сообщение С = A +«ровно», В = A + «в понедельник»; в соответствии с подходом Шеннона получаем: I(A) < I(C) < I(B). СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ 1.«Теоретические основы информатики». Луковкин С.Б. 2.Курс лекций «Введение в ИИ.». |