Занятие 7. Подходы к определению количества информации. Подходы к понятию информации и измерению информации Существует два подхода к измерению информации
 Скачать 262.14 Kb.
|
Подходы к понятию информации и измерению информацииСуществует два подхода к измерению информации:содержательный (вероятностный); объемный (алфавитный). Содержательный подходПроцесс познания окружающего мира приводит к накоплению информации в форме знаний (фактов, научных теорий и т.д.). Получение новой информации приводит к расширению знания или к уменьшению неопределенности знаний. Если некоторое сообщение приводит к уменьшению неопределенности нашего знания, то можно говорить, что такое сообщение содержит информацию. Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными. Сообщение должно быть информативно. Неопределенность некоторого события - это количество возможных исходов данного события. N = 2IЗа единицу количества информации принимается такое количество информации, которое содержится в информационном сообщении, уменьшающем неопределенность знания в два раза. Такая единица названа бит.Бит – наименьшая единица измерения информации.Алфавитный подходпозволяет измерить количество информации в тексте, составленном из символов некоторого алфавита. Это объективный, количественный метод для измерения информации, циркулирующей в информационной технике.Алфавит- множество символов, используемых для представления информации.Мощность алфавита – число символов в алфавите (его размер) N. Алфавитный подходАлфавитный подход к измерению информации не связывает количество информации с содержанием сообщения. Алфавитный подход - объективный подход к измерению информации. Он удобен при использовании технических средств работы с информацией, т.к. не зависит от содержания сообщения. Количество информации зависит от объема текста и мощности алфавита. Ограничений на max мощность алфавита нет, но есть достаточный алфавит мощностью 256 символов. N = 2Iгде N – это количество знаков в алфавите знаковой системы или мощностьТаблица степеней 2Единицы измерения информацииЗадача 1. Поле для игры в крестики-нолики содержит 64 клетки. Первый игрок ставит крестик в любую клетку. Какое количество информации получит второй игрок при первом ходе первого игрока?Задача 2. Какое количество информации получит пользователь при сообщении, что нужная ему программа находится на одном из 128 дисков?Задача 3. В некоторой стране алфавит содержит 8 символов. Найдите информационный вес каждого символа этого алфавита.Задачи на подходы:Задача 1. Какое количество информации содержится в неинформационном сообщении? Задача 2. Найти количество информации в однозначном сообщении. Задача 3. Измерить количество информации при ответе на вопрос: «Какие завтра намечаются осадки?» Задача 4. Какое количество информации потребуется для кодирования одного шахматного поля (64 клетки)? Задача 5. Получено сообщение, объемом 10 бит. Какое количество сообщений возможно составить из полученных данных? Задача 6. Какое количество слов получится из фразы в 8 бит? Задача 7. В корзине лежит 16 клубков разного цвета. Сколько информации несет сообщение, что достали зеленый клубок? Задача 8. Сообщение о том, что ваш друг живет на 6 этаже несет 4 бита информации. Сколько этажей в доме. Задача 9. За четверть ученик получил 100 оценок. Сообщение о том, что он получил четверку, несет 2 бита информации. Сколько четверок ученик получил за четверть? Задачи на подходы (решение)Задача 1. Какое количество информации содержится в неинформационном сообщении? Решение: N=0 => 2i=0 => i=«пустое множество» Задача 2. Найти количество информации в однозначном сообщении. Решение: N=1 => 2i=1 => i=0 бит Задача 3. Измерить количество информации при ответе на вопрос: «Какие завтра намечаются осадки?» Решение: N=4 => 2i=4 => i=2 бит Задача 4. Какое количество информации потребуется для кодирования одного шахматного поля? Решение: N=8*8=64 => 2i=64 => i=6 бит Задача 5. Получено сообщение, объемом 10 бит. Какое количество сообщений возможно составить из полученных данных? Решение: i=10 => 210=1024 => N=1024 сообщения Задача 6. Какое количество слов получится из фразы в 8 бит? Решение: i=8 => 28=256 => N=256 слов Задача 7. В корзине лежит 16 шаров разного цвета. Сколько информации несет сообщение, что достали белый шар? Решение: N=16 => 2i=16 => i=4 Задача 8. Сообщение о том, что ваш друг живет на 6 этаже несет 4 бита информации. Сколько этажей в доме. Решение: i=4 => 24=16 => N=16 этажей Задача 9. За четверть ученик получил 100 оценок. Сообщение о том, что он получил четверку, несет 2 бита информации. Сколько четверок ученик получил за четверть? Решение: i =2 => 22=4 => N=4 отметки. Это очевидно. Отметки «2», «3», «4», «5». Всего получено 100 отметок, а вот сколько из них четверок, не понятно даже ёжику. Перевод из одной единицы измерения информации в другую
|