Információ jellemzői üzenet források
A kvantitatív információk
Mivel minden kommunikációs rendszert úgy tervezték, az információ átadását, a probléma merül fel, értékeli a mennyiségű információt a továbbított üzenet. Becsüljük az információk mennyisége szempontjából annak értékét a címzett lehetetlen t. Hogy. Ugyanaz az üzenet, hogy a különböző címzettnek más értéke van, például kapott információkat a tanulmány az anyag a szakember nagyon értékes.
És két függőségek meghatározásához használjuk az információk mennyisége:
- .. fejezi lineáris függését az információ mennyiségét abban a jelentésben, a hossza, azaz például a könyv több információt, mint a apródja;
- kifejező exponenciális függés az információ mennyiségét egy üzenetet a lehetséges permutációk ugyanazokat az elemeket az üzenet, például, ha a forrás az üzenet szókincse 1000 szót, és létrehoz egy üzenet hossza 50 szó, a számos lehetséges üzenetek egyenlő lesz 50 1000.
Ennek figyelembevételével mindkét függően logaritmikus skálán vesszük, hogy értékelje az információ mennyiségét. A fentiek alapján az említett mennyiségű információt a jelentésben fogja meghatározni:
ahol I (ai) - ai mennyiségű információt az üzenetben;
P (ai) - valószínűsége ai üzenete.
Válogatás logaritmus alap egység határozza meg az információk mennyisége. Az egyszerűség kedvéért a segítségével a bázis b = 2, majd az információ a bit, mint az alap a bináris kód rendszerek - bináris vagy bináris egységek (az angol szó bináris számjegy). Így, az információk mennyisége a meghatározás szerint:
Ebből kifejezés, ebből következik, hogy egy bit információt is:
t. e. 1 bites? az információ mennyiségét, amely hordozza az üzenetet veroyatnostyuP (ai) = 0,5.
A használt kifejezés számítási bitek és a pulzus technikák mert alkalmazunk két oszlop képződik equiprobable szimbólumok 1 és 0.
Mint látható a kifejezés, az információk mennyisége nem lehet negatív.
Az entrópia a forrás
A legtöbb valódi forrása generál üzeneteket különböző mennyiségű információ azonban gyakorlati problémák megoldásához szükséges, hogy az átlagos mennyiségű információt jutó üzenetet. Az átlagos mennyiségű információ van meghatározva, mint az várható számát információt az üzenetben.
ahol M - a számos lehetséges forrásai üzeneteket.
Nagysága a H (A) az entrópia a forrás és jellemzi az átlagos mennyiségű információt jutó üzenetet.
Ezt a kifejezést használja, hogy meghatározza az entrópia diszkrét üzenet forrásokból. A folyamatos oszlopok és (t) az entrópia elméletileg végtelenhez közelít, t. K. Egy üzenet hozhat végtelen számú értékek, így P (ai) ®0, és I (AI) ®. Azonban, ha az üzenet van kitéve mintavételi és azt bemutatja egy véges számú kvantált szint értékeket L, lehetőség van, hogy meghatározzuk az átlagos mennyiségű információt jutó száma (entrópiája referencia):
ahol pi - a bekövetkezés valószínűsége egy kvantált jelentésében i-szintet.
LKB - a kvantálási szintek száma.
Ha az átmenetet a határérték L rögzítő a végtelenig, kapunk egy értéket az úgynevezett differenciális entrópia.
Az entrópia objektív jellemzője az információs forrás az üzeneteket. Ez mindig pozitív.
1 0 entrópia nulla, ha egyetlen üzenet szignifikánsan (P (ai) = 1), míg mások nem lehetséges.
2 0 entrópia maximális amikor az összes üzenetet egyformán valószínű, és növekszik a egyformán valószínű üzeneteket.
3 0 entrópia van additivitás tulajdonság m. E. Különböző források az entrópia is adhatunk.
redundancia forrás
A redundancia az üzenet megérteni a jelenlétét „felesleges” elemek, azaz. E. A sejteket, amelyek nem viselik szemantikai terhelés (például, kötőszók, elöljárószavakat). Ezek az elemek nyerhetjük révén statisztikai közötti kapcsolatok egyéb elemek az üzenetet. Például, a szakszervezetek, elöljárók és írásjelek is helyreállítható ismeretében szabályok megalkotásához mondatokat. tehát:
redundancia - az intézkedés a csökkenés üzenetét veszteség nélkül adatok miatt statisztikai összefüggések elemei között az üzenetet.
A kvantitatív intézkedés arányban a redundancia információ:
ahol H (A) - entrópia kiszámítani, figyelembe véve a statisztikai jellemzői az üzeneteket;
Hmax (A) - a maximális entrópia forrás, amely szerint a második tulajdonság:
Hmax (A) = log2 Ma; bit / üzenet. (13)
A jelenléte redundancia üzenetküldő létesítő pozitív és negatív oldalai. Adjon amelynek redundancia igényel adásidő, és így hosszabb ideig csatorna kihasználtság. Ugyanakkor egyre nagyobb a redundancia növeli a zavarvédettséget az üzenetet. Hozzájárul a felderítése és a hibák kijavítását a beérkezett üzeneteket. Ez annak a ténynek köszönhető, hogy a formáció üzeneteket használnak, nem az összes lehetséges kombinációját karaktert, de csak bizonyos (engedélyezett), amely rögzíti külön könyvtárába (szótárak). Ha olyan üzenetet kap, az elemek (szavak) nem a könyvtárak jelenlétét jelzi a hibákat és hibás elemet lehet cserélni hasonló helyesírási vagy megfelelő jelentését. Minden nyelvnek van redundancia egyenlő a C „0.5.
teljesítmény forrás
Teljesítmény forrás - az átlagos összeg által létrehozott információk forrása időegység.
Teljesítményű digitális üzenet forrás meghatározása a következő:
H'd.s (A) = H (A) / TCP .; bit / s (14)
tcp ahol - az átlagos hossza hozzászólások:
ahol tn - az az idő, amelyből képződött n üzeneteket.
Kapacitás folyamatos forrása meghatározott üzenetek:
. H'n.s (A) = FS Hotsch (A); bit / s (16)
ahol fs - mintavételi frekvencia (2Fmax).
.. Ha az üzenet kvantált equiprobable szintjeit, azaz pi = 1 / L, a forrás kapacitást lehet meghatározni:
H'n.s (A) = FS log2 L .; bit / s (17)