Здесь мы используем логарифм с основанием 2, чтобы измерить количество информации в битах, которое содержится в символе i для канала j, при условии, что вероятность p_ij равна 0.75.
Логарифм надо вычислять для каждого значения p_ij в формуле I = ? i=1^n ? j=1^m ((p_ij * log2 (p_ij)) / log2 (n)), чтобы получить точные значения информации для каждого символа и канала.
2. Умножьте p_ij на log2 (p_ij).
Полученное значение показывает, какая часть информации состоит из вероятности символа i для канала j.
Умножение вероятности p_ij на log2 (p_ij) помогает в расчете вклада каждого символа в общую информацию источника данных для данного канала. Чем больше вероятность p_ij (т.е. вероятность передачи символа i через канал j), тем больше будет вклад в общую информацию.
В результате этого умножения мы получаем числовое значение, которое показывает долю информации, которая зависит от вероятности символа i для канала j. Чем больше это значение, тем больше вклад в общую информацию источника данных.
Этот шаг позволяет учесть взаимосвязь между вероятностью символа и количеством информации, содержащейся в этом символе при его передаче через канал.
3. Разделите полученный результат на log2 (n), где n – количество возможных символов или состояний.
После того, как мы умножили p_ij на log2 (p_ij), следующим шагом является деление этого значения на log2 (n), где n представляет собой количество возможных символов или состояний в алфавите.
Деление на log2 (n) выполняется для нормализации значения информации, учитывая количество возможных символов или состояний. Это позволяет сравнить удельное значение информации для каждого символа i и канала j независимо от размера алфавита.
Формулу можно записать следующим образом:
((p_ij * log2 (p_ij)) / log2 (n))
Где p_ij это вероятность передачи символа i через канал j, log2 (p_ij) это логарифм (база 2) от p_ij, и log2 (n) это логарифм (база 2) от размера алфавита n.
Результат этого деления будет показывать удельное значение информации для каждого символа i и канала j, учитывая количество возможных символов. Нормализация позволяет сравнивать информацию, содержащуюся в символах i и передаваемую через каналы j, независимо от размера алфавита.
Значение ((p_ij * log2 (p_ij)) / log2 (n)) позволяет оценить, какая доля информации содержится в каждом символе i для каждого канала j, учитывая вероятность символа и количество возможных символов. В контексте формулы I = ? i=1^n ? j=1^m ((p_ij * log2 (p_ij)) / log2 (n)), это значение будет использоваться для суммирования информации от всех символов и каналов в источнике данных для определения общей информации I.
Расчет переменной s для каждого символа и канала
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию (https://www.litres.ru/book/ivv/algoritmy-i-raschety-teoriya-i-praktika-osnovnye-koncepcii-70454236/chitat-onlayn/?lfrom=174836202&ffile=1) на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
