1. Информация и информационные процессы

Формула Хартли:

N = 2^I

следует, что I - это степень, в которую нужно возвести 2, чтобы получить N, т.е. логарифм:

I = log₂N - это формула Хартли

N - количество вариантов (мощность алфавита)
I - количество информации при выборе одного из вариантов

Объём сообщения длинной L символов, использующего алфавит из N символов, равен:

I = L * log₂ N

Вероятность и информация

• Вероятность события – число от 0 до 1, показывающее, как часто случается это событие в большой серии одинаковых опытов.



0 ≤ p ≤ 1

p - вероятность
N – количество испытаний
m – сколько раз произошло событие




p = m / N

I = - log₂ p = log₂ (1 / p)




Неопределённость знаний об источнике данных вычисляется по формуле Шенона (N событий, вероятности p_i):

• Скорость передачи данных – это количество битов (байтов, Кбайт и т.д.), которое передается по каналу связи за единицу времени (например, за 1 с).

• Основная единица измерения скорости — биты в секунду (бит/с, англ. bps — bits per second). Для характеристики быстродействующих каналов применяют единицы измерения с десятичными приставками (а не двоичными, как при измерении количества информации):
  килобиты в секунду (1 кбит/с = 1000 бит/с),
  мегабиты в секунду (1 Мбит/c = 106 бит/с) и
  гигабиты в секунду (1 Гбит/c = 109 бит/с);
  
  иногда используют байты в секунду (байт/с) и
  мегабайты в секунду (1 Мбайт/с = 106 байт/с).

• Помехоустойчивый код – это код, который позволяет исправлять ошибки, если их количество не превышает некоторого уровня.
• Расстояние Хэмминга – это количество позиций, в которых отличаются два закодированных сообщения одинаковой длины.

  Исправление r ошибок:

  d ≤ 2r + 1

• Коэффициент сжатия – это отношение размеров исходного и сжатого файлов.
• Сжатие без потерь – это такое уменьшение объема закодированных данных, при котором можно восстановить их исходный вид из кода без искажений.
• Префиксный код – это код, в котором ни одно кодовое слово не является началом другого кодового слова (условие Фано).
• Сжатие с потерями – это такое уменьшение объема закодированных данных, при которых распакованный файл может отличаться от оригинала.
• Битрейт – это число бит, используемых для кодирования 1 секунды звука.
• Кодек (кодировщик/декодировщик) – это программа для сжатия данных и восстановления сжатых данных.
• Кибернетика – это наука, изучающая общие закономерности процессов управления и передачи информации в машинах, живых организмах и обществе.
• Система (с греч. составленный) – это группа объектов и связей между ними, выделенных из среды и рассматриваемых как одно целое.
• Системный подход состоит в том, что объект исследования рассматривается как система с учётом всех взаимосвязей между её частями.
• Компоненты - объекты, из которых строится система.
• Информационное общество – это такая ступень развития цивилизации, на которой главными продуктами производства становятся информация и знания.
• Ресурсы – условия, позволяющие после некоторой «обработки» получить желаемый результат.
• Информационные ресурсы – документы в библиотеках, архивах, банках данных, информационных системах.
• Технология – это способ сделать «продукт» из исходных материалов (с гарантированным результатом!).
• Новые информационные технологии – это технологии, связанные с использованием компьютеров для хранения, защиты, обработки и передачи информации.