Teorie kódování se vyvíjela paralelně s teorií informace. Zpočátku se v ní využíval poměrně jednoduchý matematický aparát. Později, když začala využívat různá odvětví matematiky (lineární programování, stochastika...), stala se přitažlivou disciplinou pro matematické teoretiky.
Dvojková soustava, s kterou počítače běžně pracují, je zřejmě nevýhodná pro lidské uvažování - neumíme v ní běžně počítat. Proto k převodu mezi „lidskými“ informacemi a počítači existují převodní pravidla - kódy. Obecně můžeme říct, že kód je množina symbolů, kterými vyjadřujeme různé stavy systému. Kód lze libovolně převádět jeden na druhý, aniž by se změnila velikost a množství informace. Kódování pak můžeme charakterizovat jako převod jednoho kódu na druhý a to buď pomocí tabulky anebo algoritmu.
Pro ukázku si zvolme jako zkušební systém hrací kostku. Po hodu se může kostka nacházet v jednom ze šesti stavů (poloh). Stav (poloha) kostky se nejčastěji vyjadřuje pomocí množiny tečkových symbolů:
