Концепция информации

Система может быть самой совершенной, но при создании передающих систем важно обратить внимание на то, какое количество информации пройдет через передающую систему. При подобных вычислениях поступают обычным путем: абстрагируются от смысла сообщения, как отрешаются от конкретности в привычных арифметических действиях (от сложения двух и трех яблок, переходят к сложению чисел вообще: 2+3).

И

нформация – произвольная последовательность символов, т.е. любое слово, каждый новый символ увеличивает количество информации. Для того чтобы измерить количество информации, нужен эталон. Прежде, чем выбрать слово в качестве эталона информации необходимо выбрать алфавит, из которого будет составлено это слово. Например, он может состоять из цифр 1 и 0 или понятий «да» и «нет». Эталоном считается слово, состоящее из одного символа такого алфавита. Количество информации, содержащееся в этом слове, принимают за единицу, названную битом. Записав слово двухсимвольным алфавитом, и имея эталон количества информации, можно подсчитать количество информации заключённое в этом слове.

Ученые заявили, что они «полностью игнорировали человеческую оценку информации». Последовательному ряду из 100 букв, например, приписывают определенное значение информации, не обращая внимания, имеет ли эта информация смысл и имеет ли смысл практическое применение. Количественный подход – наиболее разработанная ветвь теории информации. В соответствии с этим определением совокупность 100 букв – фраза из 100 букв из газеты, пьесы Шекспира или теоремы Эйнштейна – имеет в точности одинаковое количество информации. Такое определение количества информации является полезным и практичным. Оно в точности соответствует задаче инженера связи, который должен передать всю информацию, содержащуюся в поданной телеграмме, вне зависимости от ценности этой информации для адресата. Канал связи бездушен. Передающей системе важно одно: передать нужное количество информации за определенное время.

Оценка количества информации основывается на законах теории вероятностей, определяется через вероятности событий. Сообщение имеет ценность, несет информацию только тогда, когда мы узнаем из него об исходе события, имеющего случайный характер, когда оно в какой-то мере неожиданно. Сообщение об уже известном никакой информации не содержит. Т.е. если Вам кто-то позвонит по телефону и скажет: «Днем бывает светло, а ночью темно», то это сообщение Вас удивит лишь нелепостью высказывания очевидного, а не новостью, которую оно содержит. Иное дело, например, результат забега на скачках. Кто придет первым трудно предсказать. Чем больше интересующее нас событие имеет случайных исходов, тем ценнее сообщение об его результате, тем больше информации.

Сообщение о событии, у которого только два одинаково возможных исхода, содержит одну единицу информации, называемую битом. Выбор единицы связан с наиболее распространенным двоичным способом кодирования при передаче и обработке. Количество информации зависит от вероятностей исходов события. Сумма вероятностей всех исходов равна единице: какой-нибудь из всех возможных исходов обязательно наступит.

Событие может иметь и неравновероятные исходы. Так, при футбольном матче между сильной и слабой командами вероятность победы сильной команды велика – например, 4/5. Вероятность ничьей намного меньше, например 3/20. Вероятность же поражения совсем мала. Выходит, что количество информации – это мера уменьшения неопределенности некоторой ситуации. Различные количества информации передаются по каналам связи, и количество проходящей через канал информации не может быть больше его пропускной способности, которую определяют по тому, какое количество информации проходит здесь за единицу времени.

Один из героев романа Жюля Верна «Таинственный остров», журналист Спиллет, передавал по телефону главу из Библии, чтобы его конкуренты не могли воспользоваться связью. В этом случае канал был загружен полностью, а количество информации было равно нулю, ибо абоненту передавались известные для него сведения. Канал работал вхолостую, пропустив строго определенное количество импульсов, ничем их не нагрузив. Чем больше информации несет каждый из определенного числа импульсов, тем полнее используется пропускная способность канала. Поэтому разумно кодировать информацию, найти экономный, скупой язык для передачи сообщений.

Всякое событие, всякое явление служит источником информации. Всякое событие, всякое явление может быть выражено по-разному, разным способом, разным алфавитом. Чтобы информацию более точно и экономно передать по каналам связи, ее надо соответственно закодировать. Информацию «просеивают» самым тщательным образом. В телеграфе часто встречающиеся буквы, сочетания букв, даже целые фразы изображают более коротким набором нулей и единиц, а те, что встречаются реже, – более длинным. В случае, когда уменьшают длину кодового слова для часто встречающихся символов и увеличивают для редко встречающихся, говорят об эффективном кодировании информации. Но на практике довольно часто случается, что код, возникший в результате самого тщательного «просеивания», код удобный и экономный, может исказить сообщение из-за помех, которые бывают в каналах связи: искажения звука в телефоне, атмосферные помехи в радио, искажение или затемнение изображения в телевидении, ошибки при передаче в телеграфе. Эти помехи, или «шумы», обрушиваются на информацию. А от этого бывают самые невероятные и неприятные неожиданности. Поэтому для повышения надежности в передаче и обработке информации приходится вводить лишние символы – своеобразную защиту от искажений. Эти лишние символы не несут действительного содержания в сообщении, они избыточны. С точки зрения теории информации все то, что делает язык красочным, гибким, богатым оттенками, многоплановым, многозначным, – избыточность. С таких позиций письмо Татьяны к Онегину избыточно, т.к. в нем множество информационных излишеств для краткого и всем понятного сообщения «Я вас люблю»!

В этой связи полезно вспомнить анекдот о шляпочнике, пригласившем своих друзей для обсуждения проекта вывески. Предполагалось нарисовать на вывеске шляпу и написать: «Джон Томпсон, шляпочник, делает и продает шляпы за наличные деньги». Один из друзей заметил, что слова «за наличные деньги» являются излишними – такое напоминание оскорбительно для покупателя. Другой нашел лишним слово «продает», итак понятно, что шляпочник продает шляпы, а не раздает их даром. Третьему показалось, что слова «шляпочник» и «делает шляпы» представляют собой тавтологию, и последние слова были выкинуты. Четвертый предложил выкинуть и слово «шляпочник» – нарисованная шляпа ясно говорит, кто такой Джон Томпсон. Наконец, пятый уверял, что для покупателя совершенно безразлично, будет ли шляпочник называться Джоном Томпсоном или иначе, и предложил обойтись без этого указания. В конце концов, на вывеске осталась только шляпа. Если бы люди пользовались только такого рода кодами, без избыточности в сообщениях, то все «информационные формы» – книги, доклады, статьи – были бы предельно краткими. Но проиграли бы в доходчивости и красоте.

 Скачать реферат