A centrális határeloszlás-tétel

1. A nagy számok törvényei

A legelső leckében abból indultunk ki, hogy a relatív gyakoriság beáll egy érték köré. Ez nem hittétel, hanem bizonyítható állítás — és pontosan ez teremti meg a kapcsolatot az elmélet és a megfigyelés között. Ebben a leckében a valószínűségszámítás két legfontosabb tételét mutatom be, és mindkettőt egy kockán meg egy érmén, mert ott a számokat kézzel is ellenőrizni tudod.

Nagy számok gyenge törvénye

P\left(\left|\frac{X_{1}+\dots+X_{n}}{n}-m\right|>\varepsilon\right)\longrightarrow 0\qquad (n\to\infty)

Szavakban: független, azonos eloszlású változók átlaga tetszőlegesen közel kerül a várható értékhez, ha elég sok tagot veszünk. Bernoulli-változókra alkalmazva épp azt kapjuk, hogy a relatív gyakoriság a valószínűséghez tart.

Egy egyszerű példa: kockadobások átlaga

Egy kocka várható értéke 3,5. Ha tízszer dobsz, az átlag könnyen lehet 2,8 vagy 4,1; ha ezerszer, szinte biztosan 3,4 és 3,6 közé esik. A törvény ezt ígéri: bármilyen szűk sávot rajzolsz a 3,5 köré, elég sok dobás után az átlag ebbe a sávba kerül, és annak az esélye, hogy kívül marad, nullához tart. Próbáld ki: tíz dobás átlaga ritkán 3,5, de a dobások átlagának ingadozása a dobások számával egyre kisebb lesz.

A törvény azt mondja meg, hogy hová tart az átlag, de azt nem, hogy milyen gyorsan és milyen alakban ingadozik körülötte. A gyakorlati kérdéseket — „mekkora hibával mérünk 100 mintából?” — ezért nem ez, hanem a következő tétel válaszolja meg.

Csebisev-egyenlőtlenség

Ha csak a várható értéket és a szórást ismerjük, akkor is adható durva korlát: $P\bigl(|X-m|\ge k\sigma\bigr)\le\frac{1}{k^{2}}$ . Ez minden eloszlásra igaz, de sokszor gyenge: háromszoros szórásra $1/9\approx 11\%$ -ot ad, miközben normális eloszlásnál a valódi érték $0{,}27\%$ . Cserébe semmilyen feltevés nem kell hozzá.

Elakadtál ennél a résznél?

Egy órán megnézzük, pontosan hol csúszik el, és addig gyakoroljuk, amíg magabiztos nem leszel benne.

Egyéni óra foglalása vagy 15 perc ingyenes konzultáció

2. A centrális határeloszlás-tétel

Legyenek $X_{1},X_{2},\dots$ független, azonos eloszlású valószínűségi változók, $E(X_{i})=m$ és $D(X_{i})=\sigma$ (véges). Ekkor az összegük standardizáltja a standard normális eloszláshoz tart:

Centrális határeloszlás-tétel

P\left(\frac{X_{1}+\dots+X_{n}-nm}{\sigma\sqrt{n}}<z\right)\longrightarrow \Phi(z)\qquad (n\to\infty)

A tétel ereje abban van, ami nincs benne: az egyes tagok eloszlásáról semmit nem kötöttünk ki. Lehetnek kockadobások, Bernoulli-változók, exponenciális várakozási idők — az összeg eloszlása mindig a haranggörbe felé tart. Ez a magyarázata annak, hogy a természetben és a gyártásban miért olyan gyakori a normális eloszlás: a mért mennyiség sok apró, független hatás eredője.

Átfogalmazva a mintaátlagra, ami a statisztika szempontjából a leghasznosabb alak:

A mintaátlag eloszlása

\overline{X}=\frac{X_{1}+\dots+X_{n}}{n}\ \ \dot\sim\ \ N\!\left(m,\ \frac{\sigma}{\sqrt{n}}\right)

Egy egyszerű példa: a kockadobások átlaga számokban

Egy kocka szórása $\sigma\approx1{,}71$ . Száz dobás átlaga a tétel szerint közelítőleg $N\!\left(3{,}5;\ \frac{1{,}71}{\sqrt{100}}\right)=N(3{,}5;\ 0{,}171)$ . A 68–95–99,7 szabállyal: az átlag 95% eséllyel a $3{,}5\pm2\cdot0{,}171$ , vagyis nagyjából a $[3{,}16;\,3{,}84]$ sávba esik. Egyetlen dobás eloszlása „lapos” (minden érték egyforma), az átlagé mégis haranggörbe: pontosan ezt mondja a tétel.

A $\sigma/\sqrt{n}$ mennyiség neve standard hiba. Két dolgot érdemes leolvasni belőle:

Az átlag ugyanoda koncentrálódik, mint az egyedi értékek, de sokkal szűkebben — ez a nagy számok törvényének a mennyiségi változata.
A pontosság csak $\sqrt{n}$ szerint javul: négyszer akkora mintától feleakkora hiba. A mintanagyságot ezért nem éri meg korlátlanul növelni.

Mit nem mond ki a tétel

Nem azt, hogy „minden normális eloszlású”. Az egyedi értékek eloszlása változatlan marad — az összegük és az átlaguk lesz közelítőleg normális. Erősen ferde eloszlásoknál vagy nagyon nagy szórású tagoknál ehhez nagyobb $n$ kell; hüvelykujjszabályként $n\ge 30$ a szokásos küszöb.

3. A binomiális eloszlás normális közelítése

A tétel legrégebbi és leggyakoribb alkalmazása: a binomiális eloszlású változó $n$ darab Bernoulli-változó összege, tehát nagy $n$ -re közelíthető normálissal.

Moivre–Laplace-tétel

P(X<k)\approx\Phi\!\left(\frac{k-np}{\sqrt{np(1-p)}}\right),\qquad \text{ha } np(1-p)>9

Egy egyszerű példa: 100 érmedobásból legalább 60 fej

$n=100$ , $p=\frac12$ : $np=50$ , $\sqrt{np(1-p)}=5$ , és $np(1-p)=25>9$ , tehát a közelítés használható. A 60 fej két szórásnyira van az 50-től: $z=\frac{60-50}{5}=2$ , így $P(X\ge60)\approx1-\Phi(2)\approx0{,}023$ . Binomiális képlettel ehhez 41 tagot kellene összeadni; itt egy táblázati érték volt. (Folytonossági korrekcióval $z=1{,}9$ , az eredmény $\approx0{,}029$ , ami közelebb van a pontos értékhez.)

Egy diszkrét eloszlást közelítünk folytonossal, ezért érdemes beiktatni a folytonossági korrekciót: minden egész értéket a körülötte lévő félegységnyi sávval helyettesítünk.

P(a\le X\le b)\approx\Phi\!\left(\frac{b+0{,}5-np}{\sqrt{npq}}\right)-\Phi\!\left(\frac{a-0{,}5-np}{\sqrt{npq}}\right)

Kis $n$ -nél ez sokat javít a pontosságon, nagy $n$ -nél alig számít. Ha viszont $p$ nagyon kicsi, ne ezt használjuk, hanem a Poisson-közelítést — a normális közelítés feltétele épp azt zárja ki, hogy az eloszlás egyik szélére szoruljon.

4. Konfidenciaintervallum a várható értékre

Ha egy mintából megbecsüljük a várható értéket, a becslés önmagában keveset ér: azt is tudni kell, mekkora hibával. A konfidenciaintervallum egy olyan intervallum, amely megadott valószínűséggel tartalmazza az ismeretlen $m$ -et.

A CHT szerint $\overline{X}$ közelítőleg $N(m,\sigma/\sqrt{n})$ eloszlású, tehát $95\%$ eséllyel a $m$ -től legfeljebb $1{,}96$ standard hibányira esik. Ezt átrendezve:

Konfidenciaintervallum (ismert szórás)

\overline{x}-z_{1-\alpha/2}\,\frac{\sigma}{\sqrt{n}}\ <\ m\ <\ \overline{x}+z_{1-\alpha/2}\,\frac{\sigma}{\sqrt{n}}

Egy egyszerű példa: töltési tömeg

Egy töltőgép szórása ismert, $\sigma=4$ g. 16 csomag átlaga $\overline{x}=502$ g. A standard hiba $\frac{4}{\sqrt{16}}=1$ g, tehát a 95%-os intervallum $502\pm1{,}96\cdot1$ , azaz $(500{,}04;\ 503{,}96)$ . Az 500 g-os névleges érték épp kívül esik rajta: a gép valószínűleg kicsit túltölt. Ha 64 csomagot mértünk volna, a standard hiba 0,5 g-ra csökken, az intervallum feleolyan széles lesz.

A leggyakoribb szintekhez tartozó szorzók: $90\%\to 1{,}645$ , $95\%\to 1{,}96$ , $99\%\to 2{,}576$ . Ha a szórás nem ismert — a gyakorlatban ez a jellemző —, a helyére a korrigált tapasztalati szórás lép, és a normális helyett $t$ -eloszlást használunk; erről a becsléseknél lesz szó.

Mit jelent a 95%

Nem azt, hogy „az $m$ $95\%$ eséllyel az intervallumban van” — az $m$ egy rögzített szám, nem véletlen. Az intervallum a véletlen: ha sokszor megismételnénk a mintavételt, az így kapott intervallumok $95\%$ -a tartalmazná a valódi $m$ -et. A megkülönböztetés a vizsgán is visszatérő kérdés.

5. Kidolgozott példák

Száz érmedobás: a fejek száma

Százszor feldobunk egy szabályos érmét. Mennyi a valószínűsége, hogy a fejek száma 45 és 55 közé esik (a határokat is beleértve)?

A fejek száma binomiális $n=100$ , $p=0{,}5$ paraméterekkel:
$np=50,\qquad \sqrt{npq}=\sqrt{100\cdot 0{,}5\cdot 0{,}5}=5$
A feltétel teljesül: $npq=25>9$ .
Folytonossági korrekcióval a $[45;55]$ egész értékek helyett a $[44{,}5;\,55{,}5]$ sávot vesszük:
$z_{1}=\frac{44{,}5-50}{5}=-1{,}1,\qquad z_{2}=\frac{55{,}5-50}{5}=1{,}1$
$P(45\le X\le 55)\approx\Phi(1{,}1)-\Phi(-1{,}1)=2\cdot 0{,}8643-1=0{,}7286$
A pontos binomiális érték $0{,}7287$ — a közelítés négy tizedesjegyig pontos. Korrekció nélkül $\Phi(1)-\Phi(-1)=0{,}6827$ jött volna ki, ami már érezhetően rosszabb.

Mintaátlag: mennyire ingadozik

Egy alkatrész tömege $m=50$ g várható értékű, $\sigma=2$ g szórású (az eloszlása ismeretlen). 64 darabból álló mintát veszünk. Mennyi a valószínűsége, hogy a minta átlaga 50,5 g fölött lesz?

A CHT szerint a mintaátlag közelítőleg normális, a standard hibája:
$\frac{\sigma}{\sqrt{n}}=\frac{2}{\sqrt{64}}=\frac{2}{8}=0{,}25\ \text{g}$
$P(\overline{X}>50{,}5)=1-\Phi\!\left(\frac{50{,}5-50}{0{,}25}\right)=1-\Phi(2)=1-0{,}9772=0{,}0228$
Vesd össze egyetlen darabbal: $P(X>50{,}5)=1-\Phi(0{,}25)\approx 0{,}40$ . Egy darab tömege könnyen 0,5 g-mal eltér az átlagtól, 64 darab átlaga viszont már csak alig több mint 2%-ban. Az átlagolás nyolcszorosára csökkentette az ingadozást — ennyi a $\sqrt{64}$ .

Konfidenciaintervallum és a szükséges mintanagyság

Az előző mintában az átlag $\overline{x}=50{,}3$ g lett ( $n=64$ , $\sigma=2$ g). (a) Adj $95\%$ -os konfidenciaintervallumot a várható értékre. (b) Mekkora minta kellene ahhoz, hogy az intervallum félhossza 0,2 g legyen?

(a) A félhossz a standard hiba $1{,}96$ -szorosa:
$1{,}96\cdot 0{,}25=0{,}49\ \text{g}$
$49{,}81\ \text{g}\ <\ m\ <\ 50{,}79\ \text{g}$
(b) A félhosszra vonatkozó feltételt $n$ -re rendezzük:
$1{,}96\cdot\frac{2}{\sqrt{n}}\le 0{,}2\ \Longrightarrow\ \sqrt{n}\ge\frac{1{,}96\cdot 2}{0{,}2}=19{,}6$
$n\ge 19{,}6^{2}=384{,}16\ \Longrightarrow\ n=385$
A félhosszt 0,49-ről 0,2-re, tehát a $2{,}45$ -öd részére szorítottuk, és ehhez $2{,}45^{2}\approx 6$ -szoros mintanagyság kellett. Ez a $\sqrt{n}$ -es javulás ára, és ezért drágul olyan gyorsan a pontosság a mérésekben.

1. A nagy számok törvényei

2. A centrális határeloszlás-tétel

3. A binomiális eloszlás normális közelítése

4. Konfidenciaintervallum a várható értékre

5. Kidolgozott példák

Elakadtál menet közben?