Valószínűséggeneráló függvény

A valószínűséggeneráló függvény a valószínűségszámításban a diszkrét valószínűségi változók eloszlásait jellemző függvény. Minden természetes számokat értékként felvevő eloszláshoz hozzárendelhető valószínűséggeneráló függvény, és minden valószínűséggeneráló függvényhez egyértelműen tartozik természetes számokat értékül adó eloszlás.

A hozzárendelés alapján a valószínűséggeneráló függvény segítségével lehet következtetni a valószínűségi változó tulajdonságaira. A valószínűségi változókon végzett műveleteknek megfelelnek a valószínűséggeneráló függvényeken végzett műveletek. Így kapcsolatban állnak a valószínűséggeneráló függvény deriváltjai és az eloszlás várható értéke, szórásnégyzete és további momentumai. A független változók összeadása az eloszlások konvolúciójának és a valószínűséggeneráló függvények szorzásának. A fontos műveletek egyszerűsítése lehetővé teszi olyan bonyolult sztochasztikus objektumok vizsgálatát, mint a Galton-Watson-folyamat.

Definíció

A valószínűséggeneráló függvény kétféleképpen is definiálható, ezek azonban ekvivalensek. Az egyik a valószínűségeloszláson, a másik a valószínűségi változón alapul. Mindkét definícióban teljesül a $0^{0}:=1$ összefüggés. A továbbiakban $\mathbb {N} _{0}$ jelöli a természetes számokat, beleértve a nullát, avagy a nemnegatív egész számokat.

Valószínűségeloszlásokra

Legyen $P$ valószínűségeloszlás az $(\mathbb {N} _{0},{\mathcal {P}}(\mathbb {N} _{0}))$ halmazon, és valószínűségi függvénye $f_{P}(k)=P(\{k\})$! Ekkor az $m_{P}\colon [0,1]\to [0,1]$ függvény, aminek definíciója

$m_{P}(t)=\sum _{k=0}^{\infty }f_{P}(k)t^{k}$

$P$, illetve $f_{P}$ valószínűséggeneráló függvénye.

Valószínűségi változókra

Ha az $X$ valószínűségi változó értékei $\mathbb {N} _{0}$-ból valók, akkor a valószínűséggeneráló függvény egy $m_{X}\colon [0,1]\to [0,1]$ függvény, aminek definíciója

$m_{X}(t):=m_{P\circ X^{-1}}(t)=\sum _{k=0}^{\infty }t^{k}P[X=k]$.

Ez $X$, illetve $P_{X}$ valószínűséggeneráló függvénye.

Ezzel egy valószínűségi változó valószínűséggeneráló függvénye megegyezik eloszlásának valószínűséggeneráló függvényével. Alternatívan, a várható érték segítségével is definiálható:

$m_{X}(t):=\operatorname {E} \left[t^{X}\right]$.

Elemi példák

Adva legyen egy Bernoulli-eloszlású $X$ valószínűségi változó, azaz $X\sim \operatorname {Ber} (p)$. Ekkor $P(X=0)=1-p$ és $P(X=1)=p$. Formálisan, $X$ értékeit $\mathbb {N} _{0}$-ból veszi fel, de $P(X=n)=0$ minden $n\geq 2$ számra. Ekkor

$m_{X}(t)=\sum _{k=0}^{\infty }t^{k}P[X=k]=pt+1-p$.

Ha $X$ binomiális eloszlású az $n$ és $p$ paraméterekkel, azaz $X\sim \operatorname {Bin} _{n,p}$, akkor $k\leq n$ esetén a valószínűségek

$P(X=k)={\binom {n}{k}}p^{k}(1-p)^{n-k}$

és $P(X=k)=0$, ha $k>n$. A valószínűséggeneráló függvény a binomiális tétel miatt

$m_{X}(t)=\sum _{k=0}^{n}{\binom {n}{k}}(pt)^{k}(1-p)^{n-k}=(pt+1-p)^{n}$.

Tulajdonságai

Függvénytulajdonságok

A valószínűséggeneráló függvény hatványsor, aminek konvergenciasugara nagyobb, mint 1, azaz konvergens minden $t\in [0,1]$ esetén. Ehhez szükséges, hogy az együtthatók ne legyenek negatívak, és összegük 1 legyen. Ekkor $\sum _{k=0}^{\infty }\left|t^{k}P[X=k]\right|\leq 1$ minden $t\in [-1,1]$ esetén. Ekkor a vizsgált $[0,1]$ szakaszon is teljesülnek a hatványsorok tulajdonságai: folytonosak, sőt végtelen sokszor differenciálhatók a $[0,1)$ intervallumon.

Mivel minden $x^{k}$ monom konvex és monoton növő, és ezek a tulajdonságok kúp kombinációkra is megmaradnak, azért a valószínűséggeneráló függvények is konvexek és monoton növők.

Megfordíthatóság

Nemcsak az eloszlásoknak van egyértelműen valószínűséggeneráló függvénye, hanem megfordítva, a valószínűséggeneráló függvény is egyértelműen meghatározza az eloszlást. Formálisan, ha $X$ és $Y$ $\mathbb {N} _{0}$ értékű valószínűségi változók, és $m_{X}(t)=m_{Y}(t)$ minden $t\in [0,c]$ esetén, ahol $c>0$, akkor $P[X=k]=P[Y=k]$ minden $k\in \mathbb {N} _{0}$ esetén.

Ugyanis a Taylor-képlet szerint minden $k\in \mathbb {N} _{0}$ esetén

$P[X=k]={\dfrac {m_{X}^{(k)}(0)}{k!}}={\dfrac {m_{Y}^{(k)}(0)}{k!}}=P[Y=k]$.

Ez az összefüggés mutatja, hogy $m_{X}$ generálja a $P[X=k]$ valószínűségeket, és a valószínűségi függvény rekonstruálható a valószínűséggeneráló függvényből.

Valószínűségi változók összege és eloszlások konvolúciója

Ha $X$ és $Y$ független valószínűségi változók, melyek értéküket $\mathbb {N} _{0}$-ból veszik fel, akkor az $X+Y$ valószínűségi változó valószínűséggeneráló függvénye

$m_{X+Y}(t)=\operatorname {E} (t^{X+Y})=\operatorname {E} (t^{X}\cdot t^{Y})=\operatorname {E} (t^{X})\cdot \operatorname {E} (t^{Y})=m_{X}(t)\cdot m_{Y}(t)$,

mivel $X$ és $Y$ függetlensége miatt $t^{X}$ és $t^{Y}$ is független.

Ez az eredmény általánosítható véges összegre is: Ha $X_{1},\ldots ,X_{n}$ független valószínűségi változók, és értékük $\mathbb {N} _{0}$-beli, akkor az $S_{n}=\sum _{i=1}^{n}X_{i}$ valószínűségi változóra

$m_{S_{n}}(t)=\prod _{i=1}^{n}m_{X_{i}}(t)$.

Következik, hogy ha $P,Q$ valószínűségi mértékek, akkor konvolúciójuk, $P*Q$ valószínűséggeneráló függvénye

$m_{P*Q}(t)=m_{P}(t)m_{Q}(t)$.

Példa:

Legyen $X_{1},X_{2}$ független Bernoulli-eloszlású valószínűségi változó, ugyanazzal a $p$ paraméterrel. Ekkor összegük binomiális eloszlás a $2$ és $p$ paraméterekkel, tehát $X_{1}+X_{2}\sim \operatorname {Bin} _{2,p}$. A Bernoulli-eloszlások és a binomiális eloszlás valószínűséggeneráló függvénye

$m_{X_{1}}(t)\cdot m_{X2}(t)=(1-p+pt)^{2}=m_{\operatorname {Bin} _{2,p}}(t)=m_{X_{1}+X_{2}}(t)$.

Momentumgenerálás

Egy $\mathbb {N} _{0}$ értékű $X$ valószínűségi változóra és $k\in \mathbb {N} _{0}$-ra teljesül, hogy

$\operatorname {E} \left[{\binom {X}{k}}\right]={\dfrac {\lim _{t\uparrow 1}m_{X}^{(k)}(t)}{k!}}$

illetve

$\operatorname {E} \left[X(X-1)\dots (X-k+1)\right]=\lim _{t\uparrow 1}m_{X}^{(k)}(t)$.

Az egyenlőségek két oldala véges, ha $\operatorname {E} \left[X^{k}\right]$ véges.

Eszerint egy $\mathbb {N} _{0}$ értékű valószínűségi változó várható értéke és szórásnégyzete:

$\operatorname {E} \left[X\right]=\lim _{t\uparrow 1}m_{X}'(t)$,

$\operatorname {Var} \left[X\right]=\operatorname {E} \left[X(X-1)\right]+\operatorname {E} \left[X\right]-\operatorname {E} \left[X\right]^{2}=\lim _{t\uparrow 1}\left(m_{X}''(t)+m_{X}'(t)-m_{X}'(t)^{2}\right)$.

Lényeges, hogy itt a bal oldali határértéket vegyük figyelembe, mivel a hatványsorok nem feltétlenül differenciálhatók a peremen.

Példa:

Legyen $X$ binomiális eloszlású valószínűségi változó, azaz $X\sim \operatorname {Bin} _{n,p}$. Ekkor

$m_{X}(t)=(pt+1-p)^{n},\quad m'_{X}(t)=np(pt+1-p)^{n-1}{\text{ és }}m''_{X}(t)=n(n-1)p^{2}(pt+1-p)^{n-2}$

Mindkét derivált polinom, így kiértékelhetők a $t=1$ helyen, ami megegyezik a bal határértékkel. Ezzel

$m'_{X}(1)=np{\text{ és }}m''_{X}(1)=n(n-1)p^{2}$.

A fenti eredményekkel

$\operatorname {E} (X)=m'_{X}(1)=np,\quad \operatorname {Var} (X)=m_{X}''(1)+m_{X}'(1)-m_{X}'(1)^{2}=np(1-p)$.

Valószínűségi változók lineáris transzformációja

A lineáris transzformációk hatása a valószínűséggenerátor függvényre:

$m_{aX+b}(t)=t^{b}m_{X}(t^{a})$. Így több diszkrét valószínűségi változó helyett is vizsgálható egész értékűre transzformált formája.

Példa:

Ha $X$ Bernoulli-eloszlású valószínűségi változó, azaz $X\sim \operatorname {Ber} (p)$, akkor $a,b\in \mathbb {N}$ esetén az $Y=aX+b$ valószínűségi változó eloszlása kétpontos, értékkészlete $\{a,a+b\}$. Valószínűséggeneráló függvénye

$m_{Y}(t)=m_{aX+b}(t)=t^{b}m_{X}(t^{a})=t^{b}\cdot (1-p+pt^{a})=(1-p)t^{b}+pt^{a+b}$.

Konvergencia

A valószínűséggeneráló függvény pontonkénti konvergenciája közvetlenül kapcsolatba hozható a valószínűségbeli konvergenciával:

Legyenek $X,X_{1},X_{2},X_{3},\dots$ valószínűségi változók, és valószínűséggeneráló függvényeik $m,m_{1},m_{2},m_{3},\dots$! Ekkor az $X_{n}$-ek pontosan akkor konvergálnak eloszlásban egy $X$ valószínűségi változóhoz, ha az $m_{n}$ valószínűséggeneráló függvények pontonként konvergálnak egy $m$ valószínűséggeneráló függvényhez minden $t\in [0,\varepsilon )$ esetén, ahol $\varepsilon \in (0,1)$.

Hasonló teljesül a valószínűségeloszlások gyenge konvergenciájára és a valószínűséggeneráló függvények pontonként konvergenciájára.

Véletlen összegek valószínűséggeneráló függvényei

Véletlen darabszámú összeg is kiszámítható valószínűséggeneráló függvénnyel. Legyenek $(X_{i})_{i\in \mathbb {N} }$ független, azonos eloszlású valószínűségi változók $\mathbb {N} _{0}$ értékekkel, és legyen $T$ szintén $\mathbb {N} _{0}$ értékű, az $(X_{i})_{i\in \mathbb {N} }$ valószínűségi változóltól független valószínűségi változó! Ekkor az $Z=\sum _{i=1}^{T}X_{i}$ valószínűségi változó valószínűséggeneráló függvénye

$m_{Z}(t)=m_{T}(m_{X_{1}}(t))$.

Ez az összefüggés hasznos például a Galton-Watson-folyamat elemzésére. A fenti összefüggések alapján a várható érték láncszabállyal számítható:

$\operatorname {E} (Z)=\operatorname {E} (T)\cdot \operatorname {E} (X_{1})$,

ami megfelel a Wald-formulának.

A szórásra teljesül, hogy:

$\operatorname {Var} (Z)=\operatorname {Var} (T)\operatorname {E} (X_{1})^{2}+\operatorname {E} (T)\operatorname {Var} (X_{1})$,

ami a Blackwell-Girshick-egyenlőség. A szorzásszabállyal és a fenti eredmények felhasználásával következik.

Magasabb dimenzióban

Ha $X=(X_{1},\dots ,X_{k})$ $k$ dimenziós valószínűségi vektorváltozó, ami értékeit $\mathbb {N} _{0}^{k}$-ból veszi fel, akkor valószínűséggeneráló függvénye

$m_{X}(t):=m_{X}(t_{1},\dots ,t_{k})=\operatorname {E} \left(\prod _{i=1}^{k}t_{i}^{X_{i}}\right)=\sum _{x_{1},\ldots ,x_{k}=0}^{\infty }f_{P}(x_{1},\ldots ,x_{k})t_{1}^{x_{1}}\dots t_{k}^{x_{k}}$

ahol $f_{P}(x_{1},\ldots ,x_{k})=P(X_{1}=x_{1},\dotsc ,X_{k}=x_{k})$.

Várható érték, szórásnégyzet, kovariancia

Az egydimenziós esethez hasonlóan

$\operatorname {E} (X_{i})={\frac {\partial m_{X}}{\partial t_{i}}}(1,\dots ,1)\quad \forall i\in \{1,\dots ,k\}$

és

$\operatorname {Var} (X_{i})={\frac {\partial ^{2}m_{X}}{{\partial t_{i}}^{2}}}(1,\dots ,1)+{\frac {\partial m_{X}}{\partial t_{i}}}(1,\dots ,1)\left(1-{\frac {\partial m_{X}}{\partial t_{i}}}(1,\dots ,1)\right)\quad \forall i\in \{1,\dots ,k\}$

továbbá

$\operatorname {Cov} (X_{i},X_{j})={\frac {\partial ^{2}m_{X}}{\partial t_{i}\partial t_{j}}}(1,\dots ,1)-{\frac {\partial m_{X}}{\partial t_{i}}}(1,\dots ,1)\cdot {\frac {\partial m_{X}}{\partial t_{j}}}(1,\dots ,1)\quad \forall i,j\in \{1,\dots ,k\}$

Példák

A táblázatban bemutatjuk a leggyakrabban használt diszkrét eloszlások valószínűséggeneráló függvényeit. Jegyezzük meg, hogy a binomiális eloszlás generátorfüggvénye a Bernoulli-eloszlás hatványa, mivel a binomiális eloszlás előáll független Bernoulli-eloszlások összegeként. Ugyanez teljesül a geometriai eloszlásra és a negatív binomiális eloszlásra is.

Eloszlás	Valószínűséggeneráló függvény, $m_{X}(t)$
Bernoulli-eloszlás	$m_{X}(t)=1-p+pt$
Kétpontos eloszlás	$m_{X}(t)=(1-p)t^{a}+pt^{b}$
Binomiális eloszlás $B(n,p)$	$m_{X}(t)=(1-p+pt)^{n}$
Geometriai eloszlás $G(p)$	$m_{X}(t)={\frac {p}{1-(1-p)t}}$
Negatív binomiális eloszlás $NB(r,p)$	$m_{X}(t)=\left({\frac {p}{1-(1-p)t}}\right)^{r}$
Diszkrét egyenletes eloszlás $\{1,\dotsc ,n\}$-en	$m_{X}(t)=\sum _{k=1}^{n}{\frac {1}{n}}t^{k}={\frac {t^{n+1}-t}{n(t-1)}}$
Logaritmikus eloszlás	$m_{X}(t)={\frac {\ln(1-pt)}{\ln(1-p)}}$
Poisson-eloszlás $P_{\lambda }$	$m_{X}(t)=\mathrm {e} ^{\lambda (t-1)}$
Általánosított binomiális eloszlás $GB(p)$	$m_{X}(t)=\prod \limits _{j=1}^{n}(1-{p_{j}}+{p_{j}}{t})$
Többváltozós eloszlás
Multinomiális eloszlás	$m_{X}(t)={\biggl (}\sum _{i=1}^{k}p_{i}t_{i}{\biggr )}^{n}$

Kapcsolat más generátorfüggvényekkel

A $p$ valószínűségi függvényű $X$ valószínűségi változó valószínűséggeneráló függvénye a generátorfüggvény speciális esete, ahol $a_{i}=p\left({i}\right)$ minden $i\in \mathbb {N} _{0}$ esetén. A valószínűségszámításban további három generátorfüggvényt használnak nemcsak diszkrét valószínűségi változókra.

A momentumgeneráló függvény definíciója $M_{X}\left(t\right):=\operatorname {E} \left(e^{tX}\right)$. Eszerint $m_{X}\left(e^{t}\right)=M_{X}\left(t\right)$.

A karakterisztikus függvényt úgy értelmezik, mint $\varphi _{X}\left(t\right):=\operatorname {E} \left(e^{itX}\right)$. Eszerint $m_{X}\left(e^{it}\right)=\varphi _{X}\left(t\right)$.

A momentumgeneráló függvény logaritmusa a kumulánsgeneráló függvény, amiből a kumuláns fogalmát származtatják.

Források

• Klaus D. Schmidt: Maß und Wahrscheinlichkeit. Springer, Berlin Heidelberg 2009, ISBN 978-3-540-89729-3, S. 370 ff.
• Achim Klenke. Wahrscheinlichkeitstheorie, 3., Berlin Heidelberg: Springer-Verlag (2013) 
• Ulrich Krengel. Einführung in die Wahrscheinlichkeitstheorie und Statistik. Für Studium, Berufspraxis und Lehramt, 8., Wiesbaden: Vieweg (2005) 
• Hans-Otto Georgii. Stochastik. Einführung in die Wahrscheinlichkeitstheorie und Statistik, 4., Berlin: Walter de Gruyter (2009) 
• Christian Hesse. Angewandte Wahrscheinlichkeitstheorie, 1., Wiesbaden: Vieweg (2003)