Valószínűségszámítás

A centrális határeloszlás-tétel

Miért lesz sok apró véletlen hatás összege normális eloszlású, és mire lehet ezt használni: normális közelítés és konfidenciaintervallum.

16 perc olvasás

1. A nagy számok törvényei

A legelső leckében abból indultunk ki, hogy a relatív gyakoriság beáll egy érték köré. Ez nem hittétel, hanem bizonyítható állítás — és pontosan ez teremti meg a kapcsolatot az elmélet és a megfigyelés között.

Nagy számok gyenge törvénye

P\left(\left|\frac{X_{1}+\dots+X_{n}}{n}-m\right|>\varepsilon\right)\longrightarrow 0\qquad (n\to\infty)

Szavakban: független, azonos eloszlású változók átlaga tetszőlegesen közel kerül a várható értékhez, ha elég sok tagot veszünk. Bernoulli-változókra alkalmazva épp azt kapjuk, hogy a relatív gyakoriság a valószínűséghez tart.

A törvény azt mondja meg, hogy hová tart az átlag, de azt nem, hogy milyen gyorsan és milyen alakban ingadozik körülötte. A gyakorlati kérdéseket — „mekkora hibával mérünk 100 mintából?” — ezért nem ez, hanem a következő tétel válaszolja meg.

Csebisev-egyenlőtlenség

Ha csak a várható értéket és a szórást ismerjük, akkor is adható durva korlát: $P\bigl(|X-m|\ge k\sigma\bigr)\le\frac{1}{k^{2}}$ . Ez minden eloszlásra igaz, de sokszor gyenge: háromszoros szórásra $1/9\approx 11\%$ -ot ad, miközben normális eloszlásnál a valódi érték $0{,}27\%$ . Cserébe semmilyen feltevés nem kell hozzá.

2. A centrális határeloszlás-tétel

Legyenek $X_{1},X_{2},\dots$ független, azonos eloszlású valószínűségi változók, $E(X_{i})=m$ és $D(X_{i})=\sigma$ (véges). Ekkor az összegük standardizáltja a standard normális eloszláshoz tart:

Centrális határeloszlás-tétel

P\left(\frac{X_{1}+\dots+X_{n}-nm}{\sigma\sqrt{n}}<z\right)\longrightarrow \Phi(z)\qquad (n\to\infty)

A tétel ereje abban van, ami nincs benne: az egyes tagok eloszlásáról semmit nem kötöttünk ki. Lehetnek kockadobások, Bernoulli-változók, exponenciális várakozási idők — az összeg eloszlása mindig a haranggörbe felé tart. Ez a magyarázata annak, hogy a természetben és a gyártásban miért olyan gyakori a normális eloszlás: a mért mennyiség sok apró, független hatás eredője.

Átfogalmazva a mintaátlagra, ami a statisztika szempontjából a leghasznosabb alak:

A mintaátlag eloszlása

\overline{X}=\frac{X_{1}+\dots+X_{n}}{n}\ \ \dot\sim\ \ N\!\left(m,\ \frac{\sigma}{\sqrt{n}}\right)

A $\sigma/\sqrt{n}$ mennyiség neve standard hiba. Két dolgot érdemes leolvasni belőle:

Az átlag ugyanoda koncentrálódik, mint az egyedi értékek, de sokkal szűkebben — ez a nagy számok törvényének a mennyiségi változata.
A pontosság csak $\sqrt{n}$ szerint javul: négyszer akkora mintától feleakkora hiba. A mintanagyságot ezért nem éri meg korlátlanul növelni.

Mit nem mond ki a tétel

Nem azt, hogy „minden normális eloszlású”. Az egyedi értékek eloszlása változatlan marad — az összegük és az átlaguk lesz közelítőleg normális. Erősen ferde eloszlásoknál vagy nagyon nagy szórású tagoknál ehhez nagyobb $n$ kell; hüvelykujjszabályként $n\ge 30$ a szokásos küszöb.

3. A binomiális eloszlás normális közelítése

A tétel legrégebbi és leggyakoribb alkalmazása: a binomiális eloszlású változó $n$ darab Bernoulli-változó összege, tehát nagy $n$ -re közelíthető normálissal.

Moivre–Laplace-tétel

P(X<k)\approx\Phi\!\left(\frac{k-np}{\sqrt{np(1-p)}}\right),\qquad \text{ha } np(1-p)>9

Egy diszkrét eloszlást közelítünk folytonossal, ezért érdemes beiktatni a folytonossági korrekciót: minden egész értéket a körülötte lévő félegységnyi sávval helyettesítünk.

P(a\le X\le b)\approx\Phi\!\left(\frac{b+0{,}5-np}{\sqrt{npq}}\right)-\Phi\!\left(\frac{a-0{,}5-np}{\sqrt{npq}}\right)

Kis $n$ -nél ez sokat javít a pontosságon, nagy $n$ -nél alig számít. Ha viszont $p$ nagyon kicsi, ne ezt használjuk, hanem a Poisson-közelítést — a normális közelítés feltétele épp azt zárja ki, hogy az eloszlás egyik szélére szoruljon.

4. Konfidenciaintervallum a várható értékre

Ha egy mintából megbecsüljük a várható értéket, a becslés önmagában keveset ér: azt is tudni kell, mekkora hibával. A konfidenciaintervallum egy olyan intervallum, amely megadott valószínűséggel tartalmazza az ismeretlen $m$ -et.

A CHT szerint $\overline{X}$ közelítőleg $N(m,\sigma/\sqrt{n})$ eloszlású, tehát $95\%$ eséllyel a $m$ -től legfeljebb $1{,}96$ standard hibányira esik. Ezt átrendezve:

Konfidenciaintervallum (ismert szórás)

\overline{x}-z_{1-\alpha/2}\,\frac{\sigma}{\sqrt{n}}\ <\ m\ <\ \overline{x}+z_{1-\alpha/2}\,\frac{\sigma}{\sqrt{n}}

A leggyakoribb szintekhez tartozó szorzók: $90\%\to 1{,}645$ , $95\%\to 1{,}96$ , $99\%\to 2{,}576$ . Ha a szórás nem ismert — a gyakorlatban ez a jellemző —, a helyére a korrigált tapasztalati szórás lép, és a normális helyett $t$ -eloszlást használunk; erről a becsléseknél lesz szó.

Mit jelent a 95%

Nem azt, hogy „az $m$ $95\%$ eséllyel az intervallumban van” — az $m$ egy rögzített szám, nem véletlen. Az intervallum a véletlen: ha sokszor megismételnénk a mintavételt, az így kapott intervallumok $95\%$ -a tartalmazná a valódi $m$ -et. A megkülönböztetés a vizsgán is visszatérő kérdés.

5. Kidolgozott példák

Száz érmedobás: a fejek száma

Százszor feldobunk egy szabályos érmét. Mennyi a valószínűsége, hogy a fejek száma 45 és 55 közé esik (a határokat is beleértve)?

A fejek száma binomiális $n=100$ , $p=0{,}5$ paraméterekkel:
$np=50,\qquad \sqrt{npq}=\sqrt{100\cdot 0{,}5\cdot 0{,}5}=5$
A feltétel teljesül: $npq=25>9$ .
Folytonossági korrekcióval a $[45;55]$ egész értékek helyett a $[44{,}5;\,55{,}5]$ sávot vesszük:
$z_{1}=\frac{44{,}5-50}{5}=-1{,}1,\qquad z_{2}=\frac{55{,}5-50}{5}=1{,}1$
$P(45\le X\le 55)\approx\Phi(1{,}1)-\Phi(-1{,}1)=2\cdot 0{,}8643-1=0{,}7286$
A pontos binomiális érték $0{,}7287$ — a közelítés négy tizedesjegyig pontos. Korrekció nélkül $\Phi(1)-\Phi(-1)=0{,}6827$ jött volna ki, ami már érezhetően rosszabb.

Mintaátlag: mennyire ingadozik

Egy alkatrész tömege $m=50$ g várható értékű, $\sigma=2$ g szórású (az eloszlása ismeretlen). 64 darabból álló mintát veszünk. Mennyi a valószínűsége, hogy a minta átlaga 50,5 g fölött lesz?

A CHT szerint a mintaátlag közelítőleg normális, a standard hibája:
$\frac{\sigma}{\sqrt{n}}=\frac{2}{\sqrt{64}}=\frac{2}{8}=0{,}25\ \text{g}$
$P(\overline{X}>50{,}5)=1-\Phi\!\left(\frac{50{,}5-50}{0{,}25}\right)=1-\Phi(2)=1-0{,}9772=0{,}0228$
Vesd össze egyetlen darabbal: $P(X>50{,}5)=1-\Phi(0{,}25)\approx 0{,}40$ . Egy darab tömege könnyen 0,5 g-mal eltér az átlagtól, 64 darab átlaga viszont már csak alig több mint 2%-ban. Az átlagolás nyolcszorosára csökkentette az ingadozást — ennyi a $\sqrt{64}$ .

Konfidenciaintervallum és a szükséges mintanagyság

Az előző mintában az átlag $\overline{x}=50{,}3$ g lett ( $n=64$ , $\sigma=2$ g). (a) Adj $95\%$ -os konfidenciaintervallumot a várható értékre. (b) Mekkora minta kellene ahhoz, hogy az intervallum félhossza 0,2 g legyen?

(a) A félhossz a standard hiba $1{,}96$ -szorosa:
$1{,}96\cdot 0{,}25=0{,}49\ \text{g}$
$49{,}81\ \text{g}\ <\ m\ <\ 50{,}79\ \text{g}$
(b) A félhosszra vonatkozó feltételt $n$ -re rendezzük:
$1{,}96\cdot\frac{2}{\sqrt{n}}\le 0{,}2\ \Longrightarrow\ \sqrt{n}\ge\frac{1{,}96\cdot 2}{0{,}2}=19{,}6$
$n\ge 19{,}6^{2}=384{,}16\ \Longrightarrow\ n=385$
A félhosszt 0,49-ről 0,2-re, tehát a $2{,}45$ -öd részére szorítottuk, és ehhez $2{,}45^{2}\approx 6$ -szoros mintanagyság kellett. Ez a $\sqrt{n}$ -es javulás ára, és ezért drágul olyan gyorsan a pontosság a mérésekben.

Elakadtál menet közben?

Egy tananyag megmutatja, hogyan működik a dolog. Azt viszont, hogy pontosan hol csúszik el nálad, egy óra alatt derítjük ki. Foglalj egy alkalmat, vagy beszéljük meg egy ingyenes konzultáción, mire van szükséged.

Egyéni óra foglalása Ingyenes konzultáció