Как связана неопределённость с информацией, которую мы получаем при сообщении об отдельных событиях?

Информатика 11 класс Поляков Углубленный ГДЗ § 1. Количество информации

§ 1. Количество информации ГДЗ по Информатике 11 класс. Углубленный уровень. В 2 ч. Поляков К.Ю.


2. Как связана неопределённость с информацией, которую мы получаем при сообщении об отдельных событиях?

Ответ

Чем больше у человека знаний, тем меньше он нуждается в информации. И наоборот.

Неопределённость напрямую связана с информацией, которую мы получаем при сообщении о событиях. Когда мы не знаем, какое событие произойдёт, существует неопределённость. Сообщение о конкретном событии уменьшает эту неопределённость, и количество информации, которое мы получаем, связано с тем, насколько уменьшилась эта неопределённость.

Клод Шеннон предложил количественную меру информации, которая заключается в том, что информация — это величина, уменьшающая неопределённость. Чем менее вероятно событие, тем больше информации содержит сообщение о его наступлении.

Основные положения:

  1. Неопределённость события: Если событие высоко вероятно, то неопределённость минимальна, и сообщение об этом событии несёт меньше информации. Например, если идёт сильный дождь и ожидается, что он продолжится, сообщение о том, что дождь продолжается, не содержит много новой информации.
  2. Мера неопределённости: Если событие менее вероятно, то степень неопределённости больше, и сообщение о таком событии содержит больше информации. Например, если редкий природный феномен происходит, сообщение об этом несёт много информации, так как оно устраняет высокую неопределённость.
  3. Количество информации измеряется как функция от вероятности события. Чем меньше вероятность события, тем больше информации несёт сообщение о его наступлении. Для этого используется следующая формула: [
    I = — log2 P
    где:
  • ( I ) — количество информации в битах,
  • ( P ) — вероятность события.

Пример:

Представим, что мы подбрасываем монету. Вероятность выпадения орла — ( P = 0,5 ). Если сообщают, что выпал орёл, это несёт 1 бит информации, так как неопределённость устранена.

Если же мы бросаем шестигранный кубик, вероятность выпадения определённого числа — ( P = 1/6). Сообщение о том, что выпала, например, «шестёрка», содержит больше информации (порядка 2,58 бит), поскольку неопределённость была выше.

Таким образом, чем меньше вероятность события, тем больше информации даёт сообщение о его наступлении, поскольку оно сильнее уменьшает неопределённость.


Понравилась статья? Поделиться с друзьями: