2 Matematický aparát v teorii informace

2.1 Základy teorie pravděpodobnosti

Teorie pravděpodobnosti je matematická disciplína, která se zabývá studiem zákonitostí náhodných jevů. Z důvodu hlubšího poznání zákonitostí přírody člověk dělá různé experimenty. V tomto případě budeme předpokládat, že nás zajímá jenom to, jestli určitý jev nastane anebo nenastane, bez ohledu na jeho podstatu. Jev takového druhu budeme nazývat událostí. Události budeme označovat A, B, C, ...Dále budeme předpokládat, že daný experiment je možno opakovat neomezeně krát. Zájem člověka se postupně soustředil na tzv. náhodné experimenty, u kterých není možno dopředu určit výsledek. Klasickým příkladem náhodného experimentu je hod kostkou. Symbolem U označme množinu všech možných výsledků nějakého náhodného experimentu. Jednotlivý výsledek takového experimentu budeme nazývat náhodnou událostí nebo náhodným, jevem (e).