Авиационно инженерство Административно право Административно право Беларус Алгебра Архитектура Безопасност на живота Въведение в професията „психолог” Въведение в икономиката на културата Висша математика Геология Геоморфология Хидрология и хидрометрия Хидросистеми и хидравлични машини Културология Медицина Психология икономика дескриптивна геометрия Основи на икономически т Oria професионална безопасност Пожарна тактика процеси и структури на мисълта, Професионална психология Психология Психология на управлението на съвременната фундаментални и приложни изследвания в апаратура социалната психология социални и философски проблеми Социология Статистика теоретичните основи на компютъра автоматично управление теория на вероятностите транспорт Закон Turoperator Наказателно право Наказателно-процесуалния управление модерна производствена Физика Физични феномени Философски хладилни инсталации и екология Икономика История на икономиката Основи на икономиката Икономика на предприятията Икономическа история Икономическа теория Икономически анализ Развитие на икономиката на ЕС Спешни ситуации ВКонтакте Однокласници Моят свят Facebook LiveJournal Instagram
border=0

Раздел 1. ИНФОРМАЦИОННА ТЕОРИЯ

Теорията на информацията като самостоятелна дисциплина възниква в процеса на решаване на следната задача: да се осигури надеждно и ефективно предаване на информация от източника до приемника, при условие че предаването на това се нарушава от интерференция. Самата формулировка на този проблем се нуждае от изясняване:

· „Надежден“ означава, че в процеса на предаване не трябва да се губи информация - приемникът трябва да получава информация, изпратена от източника без изкривяване;

· „Ефективно“ означава, че прехвърлянето трябва да се извърши по най-бързия начин, тъй като времето за работа на комуникационната линия е икономически фактор, който трябва да бъде сведен до минимум;

· Намеса е налице във всяка реална комуникационна линия; Така горната задача има ясен практически акцент.

Решаването на този проблем се извършва в две посоки, които могат да бъдат наречени технически и математически. Техническото търсене е свързано с практическото развитие на комуникационните линии, при които предаването може да върви с висока скорост; осигуряване на защита от смущения или намаляване на тяхното въздействие; създаване на технически устройства, които осигуряват бърза и надеждна комуникация. Тези развития обаче се основават на някои общи закони и принципи, които се отнасят не за някаква конкретна комуникационна линия, а за всякакви (във всички случаи много) форми на комуникация. Те определят методите на кодиране на информация (включително тези, които могат да откриват и коригират грешка при предаване); условия за надеждно предаване на информация; Накрая, и много важно, се въвеждат количества, които позволяват количествено описание на информационните процеси. Именно тези методи съставляват материалната основа на теорията на информацията.

Информационната теория е математическа теория с висока степен на общности. Тя се основава на теорията на случайните събития, за да опише кои се използват понятията за вероятност и ентропия. В рамките на самата теория се въвежда понятието информация и се определя нейната мярка - битова. Теорията на информацията се изгражда като други теории в математиката: първо, първоначалните понятия се определят аксиоматично, а след това аргументите на новите твърдения или теореми се доказват с основание - това е, което основател на тази теория Клод Шанън. В следващата презентация ще се обърне повече внимание на значението и значението на теоремите, а не на тяхното доказателство. Тези, които се интересуват от математическите аспекти на теорията, могат да бъдат адресирани към книгите на AM Yaglom и I.M. Yagloma [49], L. Brillouin [7], R.L. Стратонович [39], А. Файнщайн [42] и, накрая, самите творби на Шанън [46].

Отделно от това е необходимо да се говори за практическата приложимост на изложените в теорията разпоредби и последствия. Примери за използване на теорията на информацията могат да се намерят в компютърните науки, инженерството, психологията, биологията, физиката, педагогиката, лингвистиката и др. Въпреки това, както всяка друга математическа теория, теорията на информацията е приложима за решаване на специфични проблеми на практиката, доколкото описаните материални системи или процеси удовлетворяват първоначалните предположения на теорията. Неприложимостта му в останалите случаи по никакъв начин не може да се счита за липса на теория. Това, по-специално, означава, че самия термин източник - информация - се използва не само в тази теория; Обаче, ако в други дисциплини (например философия) му се дава различно значение, то е невъзможно да се изисква теорията на информацията да е приложима в тях. По същия начин, нютоновата механика е теория, която описва движението, но не в цялото разнообразие от значения на този термин, а само движението на тела в пространството с течение на времето; други видове движение - развитието на растението, еволюцията на Вселената, промените в социалната структура и др. - Законите на Нютон със сигурност не са описани, но това не намалява значението на последните.

Математическото понятие за информация е свързано с възможността за неговото количествено измерване. В теорията на информацията подходът на ентропия е оправдан, когато количеството информация в съобщението се определя от това колко несигурността на резултата от случайно събитие намалява (например появата на конкретна буква в определена последователност от символи) след получаване на съобщението. Съобщението съдържа пълна информация за събитието, ако напълно премахва първоначалната несигурност. В техническите приложения се използва различен начин за оценка на количеството информация, базирано на просто изчисление на броя на символите в съобщението - този подход се нарича обемна. В общия случай тези две мерки на количеството информация не съвпадат, по-специално в теорията на информацията е показано, че мярката на ентропията не надвишава броя на двоичните символи (битове) в съобщението. Същото и в двата подхода е, че количественото измерване на информацията не е свързано с неговата семантична (т.е. семантична) основа. От гледна точка на домакинството, информацията, лишена от смисъл, също е лишена от всякаква стойност за получателя. Въпреки това, устройството, предназначено за пренос или съхраняване на информация, не може да оцени (или не трябва) смисъла на предаваната (или съхраняваната) информация - в този случай основната задача е надеждното предаване и съхранение на информация, независимо от семантичната му основа. Едва ли някой би бил удовлетворен от ситуацията, ако пощальонът започна да оценява съдържанието на писмата и в зависимост от неговото разбиране за тяхната значимост и стойност, да реши кои да изпълни и кои не. Пощальонът, който е средство за комуникация, е длъжен да предаде пакета на адресата, дори ако съдържа празен лист хартия. В същото време, количествените характеристики на информацията и методите за тяхната оценка се оказват важни (съществени) за прехвърлянето и съхранението - това е тяхната информационна теория, която създава. Така се оказва, че теорията на информацията е приложима за решаване само на онези практически проблеми, при които е допустимо игнорирането на семантичната (съдържателната) страна на информацията.





Вижте също:

Условна ентропия

Общата схема на предаване на информация в комуникационната линия

Глава 9. Разбиране на държавната машина

Пример 7.12

Тестови въпроси и задачи

Връщане към съдържанието: Теоретични основи на компютърните науки

2019 @ ailback.ru