Valószínűségszámítás

Feltételes valószínűség és a Bayes-tétel

Mit kezdjünk egy már megszerzett információval: szűkített mintatér, teljes valószínűség, Bayes-tétel és a függetlenség pontos jelentése.

16 perc olvasás

1. A feltételes valószínűség

Egy kockadobásnál a hatos valószínűsége $1/6$ . Ha viszont valaki elárulja, hogy a dobás páros lett, ez az érték már nem stimmel: három lehetőség maradt, és a hatos ezek egyike, tehát $1/3$ . A feltételes valószínűség pontosan ezt a lépést írja le — mi történik, ha egy információt már megkaptunk.

Feltételes valószínűség

P(A\mid B)=\frac{P(A\cap B)}{P(B)},\qquad P(B)>0

A képlet szemléletes tartalma: a $B$ bekövetkezése leszűkíti a mintateret. Ezentúl a $B$ a „minden”, ezért osztunk a $P(B)$ -vel, a számlálóban pedig csak az $A$ -nak az a része maradhat, ami a $B$ -be esik.

A definíciót átrendezve kapjuk a szorzási szabályt, amivel egymás után következő lépések valószínűsége építhető fel — ez a fadiagramos feladatok motorja:

Szorzási szabály

P(A\cap B)=P(B)\,P(A\mid B)=P(A)\,P(B\mid A)

A feltételes valószínűség is valószínűség

Rögzített $B$ mellett a $P(\,\cdot\mid B)$ teljesíti mind a három axiómát. Ezért minden korábbi szabály érvényes rá, például $P(\overline{A}\mid B)=1-P(A\mid B)$ . Ami nem igaz, az a $P(A\mid \overline{B})=1-P(A\mid B)$ : a feltételt nem szabad „komplementerezni”.

2. A teljes valószínűség tétele

Gyakori helyzet, hogy egy esemény valószínűségét közvetlenül nehéz kiszámolni, de ha tudnánk, „melyik ágon” haladunk, könnyű lenne. Ilyenkor bontsuk fel a mintateret teljes eseményrendszerre: olyan $B_{1},\dots,B_{n}$ eseményekre, amelyek páronként kizárók, és együtt kiadják a teljes $\Omega$ -t.

Teljes valószínűség tétele

P(A)=\sum_{i=1}^{n}P(B_{i})\,P(A\mid B_{i})

Szavakban: minden ághoz kiszámoljuk, mekkora eséllyel járunk azon az ágon, és azon az ágon mekkora eséllyel következik be $A$ — majd a szorzatokat összeadjuk. Fadiagramon ez azt jelenti, hogy végigszorzunk az ágakon, és összeadjuk az ágakat.

A legegyszerűbb, két ágból álló esetet érdemes fejből tudni, mert a legtöbb feladat ilyen:

P(A)=P(B)\,P(A\mid B)+P(\overline{B})\,P(A\mid \overline{B})

3. A Bayes-tétel

A teljes valószínűség tétele előre halad: az okokból következtet az okozatra. A Bayes-tétel visszafelé kérdez: látjuk az okozatot, és arra vagyunk kíváncsiak, melyik ok állhat mögötte.

Bayes-tétel

P(B_{k}\mid A)=\frac{P(B_{k})\,P(A\mid B_{k})}{\sum_{i=1}^{n}P(B_{i})\,P(A\mid B_{i})}=\frac{P(B_{k})\,P(A\mid B_{k})}{P(A)}

A képlet nem új tartalom, hanem a definíció és a teljes valószínűség tételének összerakása: $P(B_{k}\mid A)=\frac{P(A\cap B_{k})}{P(A)}$ , a számlálót szorzási szabállyal, a nevezőt a teljes valószínűség tételével írjuk fel. A szereplőknek külön nevük van:

Előzetes (a priori) valószínűség: $P(B_{k})$ — amit a megfigyelés előtt gondoltunk.
Likelihood: $P(A\mid B_{k})$ — az adott ok mellett mennyire valószínű a megfigyelt jelenség.
Utólagos (a posteriori) valószínűség: $P(B_{k}\mid A)$ — amit a megfigyelés után gondolunk.

Ha több megfigyelés érkezik egymás után, a tétel ismételten alkalmazható: az egyik lépés utólagos valószínűsége lesz a következő lépés előzetes valószínűsége. Ez a bayesi frissítés, és pontosan így működik a spamszűrőtől a diagnosztikáig sok gyakorlati rendszer.

4. Események függetlensége

Két esemény akkor független, ha az egyik bekövetkezése nem változtat a másik valószínűségén. Ezt a legtisztábban szorzat alakban lehet kimondani, mert így nem kell kikötni, hogy a valószínűségek pozitívak:

Függetlenség

P(A\cap B)=P(A)\,P(B)\qquad\Longleftrightarrow\qquad P(A\mid B)=P(A)\ \ (P(B)>0)

Több eseménynél nem elég a páronkénti függetlenség: a teljes függetlenséghez minden részhalmazra teljesülnie kell a szorzatszabálynak, tehát például három eseménynél a három páros szorzat mellett a $P(A\cap B\cap C)=P(A)P(B)P(C)$ is kell.

A kizáró és a független nem ugyanaz

Épp ellenkezőleg: ha $A$ és $B$ kizáró és mindkettőnek pozitív a valószínűsége, akkor biztosan nem függetlenek. Ha ugyanis $B$ bekövetkezett, akkor $A$ már biztosan nem következhet be, azaz $P(A\mid B)=0\ne P(A)$ . A kizárás a legerősebb fajta összefüggés, nem a függetlenség.

5. Kidolgozott példák

Két gép, egy közös selejtarány

Egy üzemben az alkatrészek $60\%$ -át az $A$ gép, $40\%$ -át a $B$ gép gyártja. Az $A$ gép $2\%$ , a $B$ gép $5\%$ selejtet termel. (a) Mennyi a selejt aránya összesen? (b) Egy véletlenül kiválasztott selejtes darabról mennyi az esély, hogy az $A$ gépről jött?

A két gép teljes eseményrendszert alkot: $P(A)=0{,}6$ , $P(B)=0{,}4$ , és a jelölés $S$ a „selejtes”. Amit tudunk: $P(S\mid A)=0{,}02$ és $P(S\mid B)=0{,}05$ .
(a) Teljes valószínűség tétele:
$P(S)=0{,}6\cdot 0{,}02+0{,}4\cdot 0{,}05=0{,}012+0{,}020=0{,}032$
Vagyis $3{,}2\%$ a selejtarány.
(b) Bayes-tétel — a számláló az imént kiszámolt első tag:
$P(A\mid S)=\frac{0{,}012}{0{,}032}=0{,}375$
Érdemes megnézni, mi történt: az $A$ gép aránya $60\%$ -ról $37{,}5\%$ -ra csökkent, amint kiderült, hogy a darab selejtes — hiszen a $B$ gép hibázik gyakrabban. A megfigyelés így módosította az előzetes arányt.

Orvosi szűrés: miért nem 99% a pozitív teszt

Egy betegség a népesség $1\%$ -át érinti. A szűrővizsgálat a betegek $99\%$ -át helyesen pozitívnak jelzi, az egészségesek $5\%$ -át viszont tévesen szintén pozitívnak. Valakinek pozitív lett a tesztje. Mekkora az esélye, hogy tényleg beteg?

Jelölés: $D$ = beteg, $+$ = pozitív teszt. Adott: $P(D)=0{,}01$ , $P(+\mid D)=0{,}99$ , $P(+\mid \overline{D})=0{,}05$ .
A pozitív teszt teljes valószínűsége:
$P(+)=0{,}01\cdot 0{,}99+0{,}99\cdot 0{,}05=0{,}0099+0{,}0495=0{,}0594$
$P(D\mid +)=\frac{0{,}0099}{0{,}0594}=\frac{1}{6}\approx 0{,}167$
Tehát 16,7% — a legtöbben ennél sokkal többre tippelnek.
A magyarázat a számokban van: tízezer emberből $100$ beteg, közülük $99$ lesz pozitív; a $9900$ egészségesből viszont $495$ lesz tévesen pozitív. A pozitívak többsége egészséges, mert az egészségesek sokkal többen vannak. Ha ritka a betegség, a fals pozitívak elnyomják a valódiakat.

Bayesi frissítés: egy második teszt

Az előző példában szereplő személy elvégez egy második, az elsőtől független tesztet, és az is pozitív lesz. Most mennyi az esélye, hogy beteg?

Az előzetes valószínűség már nem $0{,}01$ , hanem az első teszt utáni $P(D)=1/6$ . A likelihoodok változatlanok.
$P(+_{2})=\frac{1}{6}\cdot 0{,}99+\frac{5}{6}\cdot 0{,}05=0{,}165+0{,}041\overline{6}=0{,}206\overline{6}$
$P(D\mid +_{2})=\frac{0{,}165}{0{,}206\overline{6}}\approx 0{,}798$
A két pozitív teszt együtt már $80\%$ köré emeli a valószínűséget.
Ez a bayesi frissítés lényege: a bizonyítékok halmozódnak, és mindig az aktuális tudásunkból indulunk tovább. Fontos feltétel viszont, hogy a két teszt hibái függetlenek legyenek — ha ugyanaz a laborhiba okozza mindkét pozitív eredményt, ez a számolás érvénytelen.

Függetlenség ellenőrzése számolással

Egy kockadobásnál legyen $A$ = „páros”, $B$ = „nagyobb mint 4”, $C$ = „legalább 3”. Melyik két esemény független?

$P(A)=\frac{3}{6}=\frac{1}{2}$ , $P(B)=\frac{2}{6}=\frac{1}{3}$ , $P(C)=\frac{4}{6}=\frac{2}{3}$ .
$A\cap B=\{6\}$ , tehát $P(A\cap B)=\frac{1}{6}$ . A szorzat $\frac{1}{2}\cdot\frac{1}{3}=\frac{1}{6}$ — megegyeznek, tehát $A$ és $B$ független.
$A\cap C=\{4,6\}$ , tehát $P(A\cap C)=\frac{1}{3}$ , míg a szorzat $\frac{1}{2}\cdot\frac{2}{3}=\frac{1}{3}$ — ezek is függetlenek.
$B\cap C=\{5,6\}$ , tehát $P(B\cap C)=\frac{1}{3}$ , a szorzat viszont $\frac{1}{3}\cdot\frac{2}{3}=\frac{2}{9}$ . Nem egyeznek, tehát $B$ és $C$ nem független.
A tanulság: a függetlenség nem érzésre eldöntendő kérdés, hanem számolás. Ugyanazon a kockán az egyik páros eseménypárnál teljesül, a másiknál nem.

6. Tipikus hibák

A $P(A\mid B)$ és a $P(B\mid A)$ felcserélése. „A betegek 99%-a pozitív” nem ugyanaz, mint „a pozitívak 99%-a beteg” — a szűrős példa épp ezt mutatja meg. Ez a leggyakoribb és a legdrágább hiba.
Az előzetes valószínűség elhagyása. Ritka esemény vizsgálatánál a $P(B_{k})$ arányok legalább annyira számítanak, mint a teszt pontossága.
Kizáró eseményeket függetlennek venni. Ha a feladat azt mondja, „vagy az egyik, vagy a másik gép gyártotta”, az kizárás, nem függetlenség.
Nem teljes eseményrendszerre bontás. A teljes valószínűség tételéhez a $B_{i}$ ágaknak ki kell adniuk a teljes mintateret, és nem szabad átfedniük. Ha a valószínűségeik nem adnak ki $1$ -et, valami kimaradt.
A függetlenség feltevése a feladat átolvasása nélkül. Visszatevés nélküli mintavételnél a húzások nem függetlenek — ott a szorzási szabály feltételes valószínűségekkel írandó fel, ahogy a mintavételes példában is láttuk.

Elakadtál menet közben?

Egy tananyag megmutatja, hogyan működik a dolog. Azt viszont, hogy pontosan hol csúszik el nálad, egy óra alatt derítjük ki. Foglalj egy alkalmat, vagy beszéljük meg egy ingyenes konzultáción, mire van szükséged.

Egyéni óra foglalása Ingyenes konzultáció