Vyjádřeno matematicky: Při přenosu informací používáme dvě základní abecedy.
Zdrojová abeceda (abeceda zdroje) A={ a₁, ... , a_N } je konečná množina znaků (symbolů) a_i, kterou chceme přenést přes nějaké přenosové zařízení (přenosový kanál).
Přenosová abeceda (abeceda přenosového kanálu) Y={ y₁, ... , y_R } je konečná množina znaků y_j, kterou můžeme přenášet přes nějaké konkrétní přenosové zařízení. Např. zařízení se dvěma úrovněmi řízení (0,1) bude mít abecedu Y={ y1, y2 }={ 0,1 }. Pod kódováním pak rozumíme zobrazení, které každému znaku a_i A přiřadí nějakou skupinu znaků y_j Y - kódové slovo. Množina všech kódových slov se pak nazývá kód. Kódování však nemá pouze mechanicky nahrazovat jednu konkrétní abecedu jinou. Mění-li se při kódování množina použitých symbolů i rozložení pravděpodobností, mění se také entropie na symbol zprávy. Hlavním cílem je zajistit nejmenší počet symbolů na dané množství informace.
Důležité je, aby bylo možné ze zakódované zprávy získat zprávu zdrojovou; tj. kódování musí být jednoznačně dekódovatelné. Kódování je jednoznačně dekódovatelné tehdy, jestliže zobrazení, které každému znaku a_i A přiřadí nějakou skupinu znaků y_j Y je prostým zobrazením.