Jednoduché úlohy v Matlabu

Cílem tohoto cvičení je naučit se pracovat v systému Matlab, a to na velmi jednoduchých úlohách z oblasti odhadování entropie.

Úloha

Je dán statický stochastický systém, který je popsán diskrétním náhodným rozdělením pravděpodobnosti jeho stavů, p(x = k):

p(x = 1) 0.1
p(x = 2) 0.3
p(x = 3) 0.4
p(x = 4) 0.15
p(x = 5) 0.05
  1. Vypočítejte jeho entropii.
  2. Vygenerujte náhodný vzorek dat délky N z tohoto rozdělení.
  3. Nakreslete histogramy vygenerovaných dat různé délky, např. N = 5, 10, 50, 100, 500, 1000.
  4. Odhadněte entropie z histogramu pro data různé délky.
  5. Odhadněte chyby odhadu entropií metodou jackknife (leave-one-out).
  6. Nakreslete graf, ve kterém bude závislost střední hodnoty odhadu entropie a její chyby v závislosti na délce dat N. Do téhož grafu zakreslete teoretickou hodnotu z bodu 1.

Odevzdání

Výstupem každé skupiny bude stručný dokument, ve kterém budou graficky shrnuty výsledky včetně vlastní interpretace a závěrů. Skupina odevzdá dokument ještě před dalším cvičením. Na dalším cvičení, které proběhne konzultačně, se přidělí body za zprávy, cvíčící odpoví na případné dotazy studentů.