kölcsönös tájékoztatás
Így tudjuk meg az információk mennyisége a rendszerben X végző felügyeleti rendszer közvetlenül mögötte X. A gyakorlatban gyakran előfordul, hogy a rendszer X ellenőrzésére nem áll rendelkezésre, majd figyelemmel kísérik a másik Y rendszer, mint a - valami köze a rendszer például H. mintsem közvetlen megfigyelését űrjármű rendszerének ellenőrzésére által közvetített jelek a berendezés. Vagy néz egy labdarúgó-mérkőzés a tévében.
különbségek vannak, hogy lehet a két típus közötti X és Y rendszer:
1.Razlichiya annak a ténynek köszönhető, hogy néhány rendszer állapotát X nem tükröződnek a rendszer Y (Y kevésbé részletes, mint X rendszer).
2.Razlichiya hibák miatt: pontatlanságok a mérési rendszer paramétereinek X és hibák az üzenetek küldésekor.
Például, a fekete - fehér televízió, színes elveszett; az interferencia, amelyek torzítják.
Ez azt jelenti, Y rendszere eltér a rendszer X. Felmerül a kérdés: mennyi információt az X rendszer rendszer felügyelete Y. Ezt az információt úgy definiáljuk, mint a csökkenés az entrópia X eredményeként a rendszerrel kapcsolatos információkat Y.
ahol H (X) - a priori entrópia a megfigyelés, H (X / Y) - maradék entrópia, miután megkapta az információt, - a teljes vagy átlagos információra X. Y. rendszer, a rendszerben található
Általában, ha két rendszer minden rendszer egymáshoz képest tartalmazza ugyanazt a részletes információkat. Meg fogjuk mutatni, ezt:
- Ez az úgynevezett teljes kölcsönös szereplő információk X és Y rendszerekben
Lássuk mi fordul teljes kölcsönös tájékoztatás, szélsőséges esetben a teljes függetlenség és a teljes függőség rendszereket. Ha X és Y független rendszerek, akkor H (Y / X) = H (Y), és a = 0. Ez érthető, hiszen lehetetlen, hogy információt szerezzenek a rendszer, hanem egy másikat néz rendszer nem kapcsolódik vele.
Egy másik szélsőséges esetben X és Y teljesen meghatározzák egymást, azaz azonosak. Ezután H (X) = H (Y), H (X / Y) = H (Y / X) = 0
Vegyük azt az esetet, ahol van egy szoros kapcsolat X és Y között, vannak, de egyoldalú: az állam egyik rendszer teljesen meghatározza az állam a többi, de fordítva nem. Mivel a szolga rendszer általában nem tudja pontosan meghatározni az állam a többi. Nyilvánvaló, hogy az entrópia a slave rendszer kevesebb, mint ami ki van téve, mivel ez kevésbé részletes. Ezután töltse kölcsönös tájékoztatás a rendszer, amelyek közül egy szolga, a rabszolga egyenlő az entrópia a rendszer.
Legyen a két rendszer X és Y slave Y. Ezután H (Y / X) = 0. és
Így a teljes kölcsönös szereplő információk a rendszer, amelyek közül a szolga, a rabszolga az entrópia a rendszer.
Vezess le egy az adatok nem a feltételes entrópia és entrópia keresztül a kombinált rendszer, és az egyes részek entrópia H (X), H (Y).
Fejezzük teljes, kölcsönös információt az esélye, hogy a rendszer számára. Ehhez írunk az entrópia értékek az egyes rendszerek a várakozást:
Így van egy teljes körű és kölcsönös tájékoztatást az egyik rendszer X segítségével más rendszer Y. (Information „rendszer” -t). Amellett, hogy a teljes, kölcsönös információ, vannak speciális típusú kölcsönös tájékoztatás. Expression (1.12) formájában
Ezután a második összeget, és lesz saját információra X. A rendszer fogadja egy különálló rendszer események Y.
Expression (1,13) is védett információk „az esemény, hogy a rendszert.” Akkor azonosítani privát információkat az esemény xi. tartalmazta abban az esetben yj (információk „eseményen”):