Измерение количества информации.

Кодирование информации

Цель работы. Изучение основных подходов к измерению информации.

Минимальную порциюинформации о каком-либо свойстве объекта принято называть битом (binarydigit – двоичная цифра). Бит – единица измерения информации, представляющая собой выбор из двух равновозможных вариантов. Бит представляет собой обозначение одного двоичного разряда, способного, в зависимости от сделанного выбора, принимать значение 1 или 0.

Таблица степеней двойки показывает, сколько комбинаций можно закодировать с помощью некоторого количествабит:

Количество бит
Количество комбинаций

Байт – единица измерения информации, представляющая собой последовательность, состоящую из 8 бит:1 байт = 2³ бит = 8 бит.

Каждый бит имеет определенное место внутри байта, которое называется разрядом. Разряды принято нумеровать справа налево. Например, третий бит в байте на самом деле находится в пятом разряде байта.

Для измерения больших объемов информации принято использовать производные единицы измерения, представленные в таблице:

Название	Степень	Условное обозначение
Килобайт	210(1024 байт)	Кбайт, KB
Мегабайт	220(1024 Кбайт)	Мбайт, MB
Гигабайт	230(1024 Мбайт)	Гбайт, GB
Терабайт	240(1024 Гбайт)	Тбайт, TB
Петабайт	250(1024 Тбайт)	Пбайт, PB
Эксабайт	260(1024 Пбайт)	Эбайт, EB
Зеттабайт	270(1024 Эбайт)	Збайт, ZB
Йоттабайт	280(1024 Збайт)	Йбайт, YB

С точки зрения на информацию, как на снятую неопределённость, количество информации в сообщении о каком-то событии зависит от вероятности совершения данного события.

Задание 1

Определить сколько бит информации несет сообщение

Методические указания.

Научный подход к оценке сообщений был предложен еще в 1928 году Р. Хартли. Расчетная формула Хартли для равновероятностных событий имеет вид: I = log₂ N или 2^I = N,

где N - количество равновероятных событий (число возможных выборов),

I - количество информации.

Если N = 2 (выбор из двух возможностей), то I = 1 бит.

Модифицированная формула Хартли для неравновероятностных событий. Так как наступление каждого из N возможных событий имеет одинаковую вероятность p = 1/N, то N = 1/p и формула имеет вид

I = log₂N= log₂ (1/p) = - log₂ p

Количественная зависимость между вероятностью события (p) и количеством информации в сообщении о нем (I) выражается формулой:

I = log₂(1/p)

Вероятность события вычисляется по формуле p=K/N, K – величина, показывающая, сколько раз произошло интересующее нас событие; N – общее число возможных исходов, событий. Если вероятность уменьшается, то количество информации увеличивается.

Примеры.

1. Сколько бит информации несет сообщение о том, что поезд прибывает на один из 8 путей?

Решение.

Формула Хартли: I = log₂N,

где N – число равновероятностных исходов события, о котором речь идет в сообщении,

I – количество информации в сообщении.

I = log₂8 = 3(бит)

Ответ: 3 бита.

2. В классе 30 человек. За контрольную работу по математике получено 6 пятерок, 15 четверок, 8 троек и 1 двойка. Сколько бит информации несет сообщение о том, что Иванов получил четверку?

Решение.

Количественная зависимость между вероятностью события (p) и количество информации сообщения о нем (I): I = log₂ (1/p) = - log₂ p

Вероятность события p= 15/30

Количество информации в сообщении I=log₂(30/15)=log₂2=1.

Ответ:1 бит.

3. При регистрации в компьютерной системе каждому пользователю выдаётся идентификатор, состоящий из 8 символов, первый и последний из которых – одна из 18 букв, а остальные – цифры (допускается использование 10 десятичных цифр). Каждый такой идентификатор в компьютерной программе записывается минимально возможным и одинаковым целым количеством байт (при этом используют посимвольное кодирование; все цифры кодируются одинаковым и минимально возможным количеством бит, все буквы также кодируются одинаковым и минимально возможным количеством бит). Определите объём памяти, отводимый этой программой для записи 500 паролей.

Решение.

Рассмотрим отдельно буквенную и цифровую часть идентификатора.

Согласно условию, в пароле могут быть использованы 18 букв. Известно, что с помощью N бит можно закодировать 2^N различных вариантов. Поскольку 2⁴< 18 < 2⁵, то для записи каждой из 18 букв необходимо 5 бит.

Аналогично для цифр 2³< 10 < 2⁴ для записи каждой из 10 цифр необходимо 4 бита.

Для хранения всех 8 символов идентификатора нужно 5·2 + 4·6 = 34 бита, а т. к. для записи используется целое число байт, то берём ближайшее не меньшее значение, кратное восьми: это число 40 = 5·8 бит (5 байт).

Тогда 500 паролей занимают 5·500 = 2500 байт.

Ответ: 2500 байт

4. В некоторой стране автомобильный номер длиной 7 символов составляется из заглавных букв (всего используется 26 букв) и десятичных цифр в любом порядке. Каждый символ кодируется одинаковым и минимально возможным количеством бит, а каждый номер – одинаковым и минимально возможным количеством байт. Определите объем памяти, необходимый для хранения 20 автомобильных номеров.

Решение.

Алфавит состоит из 26+10=36 символов. Так как количество байт и бит должно быть одинаковым, у нас нет возможности кодировать числа и буквы по-разному.

Известно, что с помощью N бит можно закодировать 2^N различных символов. Поскольку 2⁵< 36 < 2⁶, то для записи каждого из 36 символов необходимо 6 бит. Для хранения всех 7 символов номера нужно 6*7 = 42 бит, а т.к. для записи используется целое число байт, то берём ближайшее не меньшее значение, кратное восьми, это число 48 = 6 * 8 бит (6 байт). Тогда 20 номеров занимают 6 * 20 = 120 байт.

Ответ: 120 байт.

Задание 2

Определить объем видеопамяти необходим для хранения графического изображения.

Методические указания.

Видеопамять -это специальная оперативная память, в которой формируется графическое изображение. Иными словами для получения на экране монитора картинки её надо где-то хранить. Для этого и существует видеопамять.

Объем видеопамяти рассчитывается по формуле: V=I · X · Y, где I – глубина цвета отдельной точки, X, Y – размеры экрана по горизонтали и по вертикали (произведение х на у – разрешающая способность экрана).

Экран дисплея может работать в двух основных режимах: текстовом и графическом.

В графическом режиме экран разделяется на отдельные светящиеся точки, количество которых зависит от типа дисплея, например 640 по горизонтали и 480 по вертикали. Светящиеся точки на экране обычно называют пикселями, их цвет и яркость может меняться. Именно в графическом режиме появляются на экране компьютера все сложные графические изображения, создаваемыми специальными программами, которые управляют параметрами каждого пикселя экрана. Графические режимы характеризуются такими показателями как:

- разрешающая способность (количество точек, с помощью которых на экране воспроизводится изображение) – типичные в настоящее время уровни разрешения 800*600 точек или 1024*768 точек; однако для мониторов с большой диагональю может использоваться разрешение 1152*864 точки.

- глубина цвета (количество бит, используемых для кодирования цвета точки), например, 8, 16, 24, 32 бита. Каждый цвет можно рассматривать как возможное состояние точки, тогда количество цветов, отображаемых на экране монитора может быть вычислено по формуле K=2^I, где K – количество цветов, I – глубина цвета или битовая глубина.

- палитра (количество цветов, которые используются для воспроизведения изображения), например 4 цвета, 16 цветов, 256 цветов, 256 оттенков серого цвета, 2¹⁶ цветов в режиме, называемом Highcolor или 2²⁴, 2³² цветов в режиме Truecolor.

Примеры

1. Черно-белое (без градаций серого) растровое графическое изображение имеет размер 10 ´10 точек. Какой объем памяти займет это изображение?

Решение.

1. Количество точек – 100.

2. Так как всего 2 цвета черный и белый, то глубина цвета равна I= 1 (2¹ =2).

3. Объем видеопамяти равен 100 · 1=100бит.

Ответ: 100 бит.

2. Для хранения растрового изображения размером 128 x 128 пикселей отвели 4 КБ памяти. Каково максимально возможное число цветов в палитре изображения.

Решение.

1. Определим количество точек изображения. 128 * 128=16384 точек или пикселей.

2. Объем памяти на изображение 4 Кб выразим в битах, так как V=I · X · Y вычисляется в битах. 4 Кб=4 · 1024=4 096 байт = 4096 · 8 бит =32768 бит.

3. Найдем глубину цвета I =V/(X · Y)=32768:16384=2

4. N=2^I, где N – число цветов в палитре. N=4.

Ответ: 4.

3. Какой объем видеопамяти необходим для хранения четырех страниц изображения, если битовая глубина равна 24, а разрешающая способность дисплея – 800 х 600 пикселей?

Решение.

1. Найдем объем видеопамяти для одной страницы: 800 · 600 · 24=11520000 бит =1440000 байт =1406,25 Кб ≈1, 37 Мб.

2. 1,37 · 4 =5,48 Мб ≈5,5 Мб для хранения 4 страниц.

Ответ: 5,5 Мб.

4. Определить объем видеопамяти компьютера, который необходим для реализации графического режима монитора HighColor с разрешающей способностью 1024 х 768 точек и палитрой цветов из 65536 цветов.

Решение.

1. По формуле K=2^I, где K – количество цветов, I – глубина цвета определим глубину цвета. 2^I=65536.

Глубина цвета составляет: I = log₂65 536 = 16 бит.

2.Количество точек изображения равно: 1024´768 = 786 432.

3. Требуемый объем видеопамяти равен: 16 бит ´ 786 432 = 12 582 912 бит =1572864 байт = 1536 Кб =1,5 Мб.

Ответ: 1,5 Мб.

5. Укажите минимальный объем памяти (в килобайтах), достаточный для хранения любого растрового изображения размером 256 х 256 пикселей, если известно, что в изображении используется палитра из 2¹⁶ цветов. Саму палитру хранить не нужно.

Решение.

Найдем минимальный объем памяти, необходимый для хранения одного пикселя. В изображении используется палитра из 2¹⁶ цветов, следовательно, одному пикселю может быть сопоставлен любой из 2¹⁶ возможных номеровцвета в палитре. Поэтому, минимальный объем памяти, для одного пикселя будет равен log₂ 2¹⁶ =16 битам. Минимальный объем памяти, достаточный для хранения всего изображения будет равен 16*256*256 =2⁴ * 2⁸ * 2⁸ =2²⁰ бит=2²⁰: 2³ =2¹⁷ байт = 2¹⁷ : 2¹⁰ =2⁷ Кбайт =128 Кбайт.

Ответ: 128 Кбайт.

6. Современный монитор позволяет получать на экране 16777216 различных цветов. Сколько бит памяти занимает 1 пиксель?

Решение.

Один пиксель кодируется комбинацией двух знаков «0» и «1». Надо узнать длину кода пикселя.

2^х =16777216, log₂ 16777216 =24 бит.

Ответ: 24 бит.

7. Страница видеопамяти составляет 16000 байтов. Дисплей работает в режиме 320*400 пикселей. Сколько цветов в палитре?

Решение.

1. V=I · X · Y – объем одной страницы, V=16000 байт = 128000 бит по условию. Найдем глубину цвета I.

I=V/(X · Y).

I= 128000 / (320*400)=1.

2. Определим теперь, сколько цветов в палитре. K =2^I, где K – количество цветов, I – глубина цвета. K=2.

Ответ: 2 цвета.

8. Сканируется цветное изображение размером 10´10 см. Разрешающая способность сканера 600 dpi и глубина цвета 32 бита. Какой информационный объем будет иметь полученный графический файл.

Решение.

1. Разрешающая способность сканера 600 dpi (dotperinch – точек на дюйм) означает, что на отрезке длиной 1 дюйм сканер способен различить 600 точек. Переведем разрешающую способность сканера из точек на дюйм в точки на сантиметр:

600 dpi: 2,54» 236 точек/см (1 дюйм = 2.54 см).

2. Следовательно, размер изображения в точках составит 2360´2360 точек (умножили на 10 см).

3. Общее количество точек изображения равно:

2360´2360 = 5 569 600.

4. Информационный объем файла равен:

32 бит ´ 5569600 = 178 227 200 бит» 21 Мбайт.

Ответ: 21 Мбайт.

Пример 9. Объем страницы видеопамяти – 125 Кбайт. Монитор работает с 16 цветной палитрой. Какова разрешающая способность экрана.

Решение.

1. Так как глубина цвета равна 4 (2⁴ =16),то имеем V=4 · X · Y.

2. В формуле объема видеопамяти объем выражен в битах, а в условии задачи дан в Кбайтах, поэтому обе части равенства надо представить в байтах:

125 · 1024=(X · Y · 4)/8 (делим справа на 8 - переводим в байты, умножаем слева на 1024 –переводим в байты).

3. Далее решаем уравнение: 4 · X · Y = 125 · 1024 · 8

X · Y = 125 · 1024 · 2=250 · 1024=256000.

4. Наиболее часто в паре разрешающей способности экрана встречается число 640, например 640 · 200, 640 · 400, 640 · 800. Попробуем разделить полученное число на 640

256000:640=400.

Ответ: Разрешающая способность экрана равна 640·400.

Пример 10. Запишите код красного цвета в двоичном, шестнадцатеричном и десятичном представлении.

Решение.

Красный цвет соответствует максимальному значению интенсивности красного цвета и минимальным значениям интенсивностей зеленого и синего базовых цветов, что соответствует следующим данным:

Коды/Цвета	Красный	Зеленый	Синий
двоичный
шестнадцатеричный	FF
десятичный

11. Сколько цветов будет использоваться, если для каждого цвета пикселя взято 2 уровня градации яркости? 64 уровня яркости каждого цвета?

Решение.

1. Всего для каждого пикселя используется набор из трех цветов (красный, зеленый, синий) со своими уровнями яркости (0-горит, 1-не горит). Значит, K=2³ =8 цветов.

2. 64³ =262144.

Ответ: 8; 262 144 цвета.

Задание 3