Výběrový rozptyl podruhé

Články o statistice se postupně přesunují na nový web: https://statistikajednoduse.cz/. Tento konkrétní článek najdete zde: https://statistikajednoduse.cz/vyberovy-rozptyl-podruhe/

Minule jsem se zmínil o rozdílu mezi výběrovým a populačním rozptylem. V článku však chyběl důkaz nebo jakékoli vysvětlení, proč tento rozdíl existuje. Tomu se budeme věnovat nyní.

Pozn: Průběžně aktualizovaný přehled všech článků o statistických testech najdete v článku o rozhodovacím stromu pro statistické testy.

Nejprve si ale odvodíme takzvaný výpočetní tvar pro rozptyl. Víme, že populační rozptyl se spočte pomocí vztahu

Pro výpočet hodnoty rozptylu pomocí kalkulačky je tento vzorec poměrně nepraktický, protože pro každou hodnotu souboru je potřeba zadat rozdíl mezi danou hodnotou a střední hodnotou. Můžeme ale provést následující úpravy:

$latex \begin{aligned}
\sigma^2_X &= \mathrm{E} \left[ X – \mathrm{E} \left(X \right) \right]^2 \\
&= \mathrm{E} \left[ X^2 – 2 X \cdot \mathrm{E} \left(X \right) + \mathrm{E} \left(X \right) \right] \\
&= \mathrm{E} \left( X^2 \right) – \mathrm{E} \left[ 2 X \cdot \mathrm{E} \left(X \right) \right] + \left[ \mathrm{E} \left(X \right) \right]^2 \\
&= \mathrm{E} \left( X^2 \right) – 2 \left[ \mathrm{E} \left(X \right) \right]^2 + \left[ \mathrm{E} \left(X \right) \right]^2 \\
&= \mathrm{E} \left( X^2 \right) – \left[ \mathrm{E} \left(X \right) \right]^2
\end{aligned}\, . $

Výsledný výpočetní tvar pro rozptyl má tvar

Stačí tedy vypočítat součet druhých mocnin hodnot souboru a odečíst od něj druhou mocninu součtu hodnot, což rychlost výpočtu podstatně sníží. Tento vztah ještě využijeme níže.

Nyní se ale vraťme k výběrovému rozptylu. Jestliže máme k dispozici pouze náhodný výběr z nějakého souboru (a nikoli všechny hodnoty souboru), zpravidla nebudeme znát střední hodnotu základního souboru. Tuto střední hodnotu musíme odhadnout pomocí aritmetického průměru. Dokažme si nejprve, že aritmetický průměr je nezkresleným odhadem střední hodnoty, tj. určíme si střední hodnotu aritmetického průměru:

Využíváme dvou známých vlastností střední hodnoty. Při násobení náhodné veličiny konstantou platí, že

A dále střední hodnota součtu náhodných veličin se rovná součtu středních hodnot náhodných veličin:

Střední hodnota aritmetického průměru je tedy skutečně střední hodnotou náhodného výběru, tím pádem je dokázáno, že takový odhad je nezkreslený. Vraťme se nyní ke vzorci pro populační rozptyl:

Namísto střední hodnoty nyní do vzorce dosadíme aritmetický průměr. Takto upravenou statistiku si označíme jako :

Nyní použijeme známý vzorec a provedeme několik jednoduchých úprav.

$latex \begin{aligned}
\left(s^{‘} \right)^2_X &= \frac{1}{n} \sum\limits_{i=1}^{n} \left( x_i^2 – 2 x_i \bar{X}  + \bar{X}^2 \right) \\
&= \frac{1}{n} \sum\limits_{i=1}^{n} x_i^2 – 2 \bar{X} \frac{\sum\limits_{i=1}^{n}x_i}{n}  + \frac{n \cdot \bar{X}^2}{n} \\
&= \frac{1}{n} \sum\limits_{i=1}^{n} x_i^2 – 2 \bar{X} \cdot \bar{X} + \bar{X}^2 \\
&= \frac{1}{n} \sum\limits_{i=1}^{n} x_i^2 – \bar{X}^2 \\
&= \frac{1}{n} \sum\limits_{i=1}^{n} x_i^2 – \left( \frac{1}{n} \sum\limits_{i=1}^{n} x_i \right)^2
\end{aligned}\, . $

V případě druhého sčítance na posledním řádku provádíme součet vzájemných násobků hodnot v náhodném výběru. Výraz lze zapsat též jako

protože rozlišujeme mezi případy, kdy jsou mezi sebou násobeny dva různé náhodné výběry, a kdy je násobena tatáž realizace náhodného výběru. Tím jsme získali upravený vzorec pro statistiku :

Abychom si ukázali, jak je statistika  zkresleným odhadem rozptylu, určíme si její střední hodnotu:

$latex \begin{aligned}
\mathrm{E} \left[ \left( s^{‘} \right)^2_X \right] &= \mathrm{E} \left[ \frac{1}{n} \sum\limits_{i=1}^{n} x_i^2 – \frac{1}{n^2} \left( \sum\limits_{i=1}^{n} x_i^2 +  \sum\limits_{i=1}^{n} \sum\limits_{j=1}^{n} x_i x_j \right) \right] \\
&= \frac{1}{n} \sum\limits_{i=1}^{n} \mathrm{E} \left( x_i^2 \right) – \frac{1}{n^2} \left[ \sum\limits_{i=1}^{n} \mathrm{E} \left( x_i^2 \right) + \sum\limits_{\substack{ i=1 \\ i \neq j}}^{n} \sum\limits_{j=1}^{n} \mathrm{E} \left( x_i x_j \right) \right]
\end{aligned}$

Uvažujeme, že jednotlivé realizace náhodného výběru jsou vzájemně nezávislé, tj. hodnoty  a  jsou pro  nezávislé. V tom případě pak platí vztah

Protože se ale v obou případech jedná o náhodný výběr ze stejného souboru se střední hodnotou , platí dokonce

Dále máme v rovnici výraz . Upravíme-li si rovnici pro výpočetní tvar rozptylu, kterou jsme odvodili výše, zjistíme, že

Dosaďme tedy za oba výrazy a pokračuje v odvození

$latex \begin{aligned}
\mathrm{E} \left[ \left( s^{‘} \right)^2_X \right] &=
\frac{1}{n} \sum\limits_{i=1}^{n} \mathrm{E} \left( x_i^2 \right) – \frac{1}{n^2} \left[ \sum\limits_{i=1}^{n} \mathrm{E} \left( x_i^2 \right) + \sum\limits_{\substack{ i=1 \\ i \neq j}}^{n} \sum\limits_{j=1}^{n} \mathrm{E} \left( x_i x_j \right) \right] \\
&=
\frac{1}{n} \sum\limits_{i=1}^{n} \left( \sigma^2_X + \mu_X^2 \right) – \frac{1}{n^2}  \sum\limits_{i=1}^{n} \left( \sigma^2_X + \mu_X^2 \right) + \sum\limits_{\substack{ i=1 \\ i \neq j}}^{n} \sum\limits_{j=1}^{n} \mu^2 \\
&= \left( \sigma^2_X + \mu_X^2 \right) – \frac{n}{n^2} \left( \sigma^2_X + \mu_X^2 \right) -\frac{(n^2 – n)}{n^2}  \mu^2 \\
&= \sigma^2_X \left( 1 – \frac{n}{n^2} \right) + \mu_X^2 \left[ 1 – \frac{n}{n^2} + \frac{(n^2 – n)}{n^2} \right] \\
&= \sigma^2_X \frac{n \left( n – 1 \right) }{n^2} + \mu_X^2 \frac{n^2 – n – n^2 + n}{n^2}\\
&= \sigma^2_X \frac{ n – 1}{n}
\end{aligned}$

Vidíme tedy, že střední hodnota statistiky  je

Abychom tedy získali nezkreslený odhad rozptylu, museli bychom statistiku  násobit výrazem . Na základě této myšlenky je pak odvozen vzorec pro výběrový rozptyl. Výraz je někdy nazýván jako Besselova korekce. Výraz  konverguje k 1, pro velmi velké náhodné výběry je rozdíl mezi statistikami zanedbatelný. Protože střední hodnota statistiky  konverguje k hodnotě rozptylu, je asymptoticky nestranným odhadem rozptylu.

<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <pre> <q cite=""> <s> <strike> <strong>