Формула Шеннона. Единицы количества информации: вероятностный и объемный подходы

Вычисление количества информации, приходящейся на один символ по формуле Шеннона. Изменения информационной энтропии в текстах экономического, естественнонаучного и литературного содержания. Максимальное количество информации на знак по формуле Хартли.
Краткое сожержание материала:

Размещено на

Министерство образования и науки Российской Федерации

Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования

"Тихоокеанский государственный университет"

Кафедра "Экономическая кибернетика"

Специальность 080500.62 УБ "Бизнес-информатика"

Лабораторная работа №2

Формула шеннона. Единицы количества информации: вероятностный и объемный подходы

Выполнил: студент ФЭУ

Группы УБ(б)-31

2013 года обучения

Проверил:

Матафонова А.Н.

Хабаровск 2013 г.

План

1. Подсчитать количество информации, приходящейся на один символ, в тексте экономического содержания

2. Подсчитать количество информации, приходящейся на один символ, в тексте технического содержания

3. Подсчитать количество информации, приходящейся на один символ, в тексте исторического содержания

4. Подсчитать количество информации, приходящейся на один символ, в тексте естественнонаучного содержания

5. Подсчитать количество информации, приходящейся на один символ, в художественно-литературном тексте

1. Подсчитать количество информации, приходящейся на один символ, в тексте экономического содержания

Организационно-правовые формы предприятий в своей основе определяют форму их собственности, то есть, кому принадлежит предприятие, его основные фонды, оборотные средства, материальные и денежные ресурсы. В зависимости от формы собственности в России в настоящее время различают три основные формы предпринимательской деятельности: частную, коллективную и контрактную.

Указание: составьте таблицу, аналогичную таблице 1, определив вероятность каждого символа в тексте как отношение количества одинаковых символов каждого значения ко всему числу символов в тексте. Затем по формуле Шеннона подсчитайте количество информации, приходящейся на один символ.

i	Символ	Р(i)	i	Символ	P(i)	i	Символ	Р(i)
1	Пробел	0,117	13	М	0,024	26	Точка	0,005
2	О	0,095	14	П	0,024	27	Г	0,005
3	Е	0,084	15	Л	0,021	28	Ж	0,005
4	И	0,068	16	К	0,016	29	Ч	0,005
5	Т	0,068	17	У	0,016	30	Х	0,002
6	Н	0,065	18	Я	0,016	31	Ц	0,002
7	Р	0,065	19	Запятая	0,016	32	Щ	0.002
8	С	0,063	20	Ф	0,013	33	Тире	0,002
9	В	0,043	21	Ю	0.013	34	Двоеточие	0,002
10	А	0,038	22	Ь	0,010	35	Ё	0,000
11	Ы	0,030	23	Б	0,008	36	Ш	0,000
12	Д	0,024	24	З	0,008	37	Ъ	0,000
			25	Й	0.008	38	Э	0,000

Таблица расчетов к первому заданию в текстовом редакторе Excel

I	Р(i)	log2Pi	Pi*log2Pi	i
1	0,117486339	-3,095419565	-0,3636695	43
2	0,095628415	-3,395928676	-0,3247473	35
3	0,084699454	-3,573466862	-0,3026707	31
4	0,068306011	-3,878321443	-0,2649127	25
5	0,068306011	-3,878321443	-0,2649127	25
6	0,06557377	-3,943416472	-0,2585847	24
7	0,06557377	-3,943416472	-0,2585847	24
8	0,06284153	-4,011587974	-0,2520943	23
9	0,043715847	-4,53951953	-0,1984489	16
10	0,038251366	-4,717856771	-0,1804645	14
11 Другие файлы: Основы информатики Информация и ее свойства. Единицы измерения данных. Вероятностный и объемный подход к измерению количества информации, способы ее передачи. Рассмотрен... Свойства информации. Единицы измерения количества информации Информация, подходы к определению информации, виды информации, свойства информации; бит, байт, килобайт; вероятностный подход к измерению информации,... Различные подходы к определению количества информации. Единицы измерения количества информации Отражение темы по информатике в ГОСТе и анализ раскрытия данной темы в школьных учебниках различных авторских коллективов. Методика изучения темы на у... Общая схема связи и характеристики компонентов Дискретизация непрерывного сигнала. Увеличение объемов обрабатываемой информации. Вероятностный подход к измерению информации. Оценка количества инфор... Основы теории информации Дано современное определение информации, рассмотрены формы ее существования, виды преобразований. Изложены основные положения теории вероятностей К.Ше...