„Shannon-entrópiafüggvény” változatai közötti eltérés
| [nem ellenőrzött változat] | [nem ellenőrzött változat] |
Tartalom törölve Tartalom hozzáadva
a függvény (matematika)| |
Indexelési hibák javítása, vektor jelölésének egységesítése |
||
4. sor:
E [[függvény (matematika)|függvény]] definiáláshoz feltételezzük, hogy egy [[kommunikáció]]s folyamatban veszünk részt, melynek csatornáján az X halmaz jeleiből összetevődő véges sorozatok, üzenetek áramlanak. Ha sok üzenet áll rendelkezésre, mérni (vagy pedig becsülni) tudjuk azt a p(x) valószínűséget, hogy adott x∈X elem milyen gyakran fordul elő (várhatóan) egy üzenetben, továbbá, hogy valahogy mérhető vagy meghatározható az x jel információtartalma is, amit I(x) jelöljön. Legyen egy üzenet az
<center> <u>[[vektor|x]]</u> = (x<sub>1</sub>,x<sub>
jelek [[Sorozat (matematika)|sorozata]]. Ekkor az üzenet információtartalma Shannon definíciója szerint
<center> H(<
= p(x<sub>1</sub>)log<sub>2</sub>p(x<sub>1</sub>)<sup>-1</sup> + p(x<sub>2</sub>)log<sub>2</sub>p(x<sub>2</sub>)<sup>-1</sup> + ... + p(x<sub>j</sub>)log<sub>2</sub>p(x<sub>j</sub>)<sup>-1</sup> . </center>
| |||