Teorie informací

Základní pojmy této teorie byly představeny v šedesátých letech dvacátého století K. Shannonem. Informační teorie je věda o procesech přenosu, ukládání a vyhledávání dat v přírodních, technických a společenských systémech. V mnoha aplikovaných vědních oborech, jako jsou informatika, lingvistika, kryptografie, teorie řízení, zpracování obrazu, genetika, psychologie, ekonomie, organizace výroby, se používají metody této vědy.

V moderních podmínkách s informační teorie velmi pevně spojen s teorie kódování s ohledem na nejvíce obecný problém odpovídající mezi signálem a zprávy, a teorie zpracování signálu, ve kterém je kvantovací studoval a signálů pro obnovu a spektrálními a korelační analýza ty.

Informační teorie považuje základní pojem "informace" z větší části z kvantitativní strany, neberouc do úvahy jeho hodnotu a někdy význam. V rámci tohoto přístupu bude stránky textu obsahují přibližně stejné množství dat určených řadou znaků a symbolů, a nezáleží na tom, že přísně vzato, tam je vytištěna, i když je to naprosto nesmyslné a chaotická množina některých symbolů.

Takový přístup je legitimní, ale pouze pro modelování komunikačních systémů, protože musí přesně přenášet informace komunikační kanály, který může být reprezentován libovolnou sadou znaků a symbolů. Současně, pokud je třeba vzít v úvahu hodnotu a význam údajů, není kvantitativní přístup nepřijatelné. Takové okolnosti představují významná omezení v oblastech možného uplatnění této teorie.

Základy teorie informace zahrnují zvážení různých otázek, včetně těch, které se přímo týkají přenosu a příjmu dat. Základní schéma komunikace, které je uvažováno ve výuce, je následující. Teorie informace a kódování se domnívá, že data jsou vytvořena zdrojem zprávy, což je slovo nebo sada slov napsaných v písmenech určité abecedy. Zdroj zprávy může být text na libovolné přirozené nebo umělé jazyky, lidská řeč, databáze a některé matematické modely, vytvoření řady písmen. Vysílač převede zprávu na signál odpovídající fyzické povaze komunikačního kanálu - média pro přenos signálu. Během průchodu takového zásahu, který zavádí zkreslení hodnot informačních parametrů, může na něm působit. Přijímač obnoví původní zprávu podle signálu přijatého s deformací. Zpráva ve obnovené podobě přichází k adresátovi - nějaké osobě nebo technickému zařízení.

Jedním z důležitých problémů teorie informací je koordinace komunikačního kanálu a informačních zdrojů zdroje zpráv. Průchodnost je určena měřicí jednotkou 1 bit za sekundu.

Jedním z problémů komunikačních systémů je rušení v cestě užitečného signálu. Shannonova věta, bohužel, nám nedává konkrétní způsob řešení těchto. Nejjednodušší metoda eliminace, která spočívá v opakovaném opakování zpráv, není příliš efektivní, protože to trvá hodně času přenos informací. Mnohem efektivnější je použití kódů, které dokáží odhalit a opravit chyby v přenosu informací.