Cikk - megközelítések mennyiségének mérésével információk
1. megközelítései mérésére az információk mennyisége. Mérjük Hartley.
Információt lehet érteni és értelmezni a különböző kérdések témakörben különböző módon. Emiatt vannak különböző megközelítések meghatározására a mérési adatokat, és különböző módszereket intézkedések bevezetésével az információ mennyiségét.
Az információk mennyisége - a számérték információk megfelelő ismerszik aktualizáljuk sokféleség komplexitása strukturált (rendelhető) azonosítjuk, adja meg a megjelenített állapotok a rendszer.
Ha figyelembe vesszük a rendszer, amely lehet az egyik lehetséges n állapotok, sürgős feladat, értékelésének feladatát ez a választás kimenetele. Egy ilyen felmérés intézkedésnek információt (események).
Mérték - folyamatos, valós, nem negatív függvény az események halmazát, és egy adalék (az intézkedés az összeg megegyezik az összeg az intézkedések).
Intézkedéseket lehet statikus vagy dinamikus, attól függően, hogy milyen információkat tesznek lehetővé megbecsülni: a statikus (nem aktualizált, sőt értékelni üzenetét, kivéve források, és a felek aktualizálása) és dinamikus (azaz a frissített becsült költsége a források, valamint frissítései információ).
Vannak különböző megközelítések meghatározására mennyiségű információt. A leggyakrabban használt a következő két módszer mérési adatok: térfogat és véletlenszerű.
Használja a bináris rendszerben, mert technikailag a legegyszerűbb eszköz, hogy végre két ellentétes fizikai állapot: mágnesezett / mágnesezett nincs on / off .. terhelt / nincs betöltve és mások.
A kötet a tárolt adatok bináris karakterek a számítógép memóriájában, vagy egy külső tároló számítjuk egyszerűen száma szükséges írási bináris szimbólumok. Így nevozmozh¬no noninteger bitek számát.
A könnyű használhatóság be, és nagyobb, mint a bit koli¬chestva információs egység. Így, bináris szó nyolc karakter, amely egy byte információt, 1024 byte-os formában kilobájt (KB) 1024 kilobájt - megabájt (MB), illetve az 1024 megabájt - gigabájt (GB).
Entrópia (valószínűség) megközelítés
Ez a megközelítés elfogadott információ-elmélet és kódolás. Ez a mérési módszer alapján a következő modell: az üzenet címzettjének egy határozott elképzelést a valószínűségét bizonyos eseményeket. Ezek az ábrázolások általában megbízhatatlanok, és kifejezi azt a valószínűséget, amely arra számít, ez vagy az eseményt. Általános bizonytalanság intézkedés úgynevezett entrópia. Entrópia jellemzi matematikai függőség összesített valószínűség ezeket az eseményeket.
Az információ mennyisége az üzenet határozza meg, hogy csökkent az intézkedés kézhezvételét követően egy üzenetet: minél nagyobb az entrópia a rendszer, annál nagyobb a bizonytalanság mértéke. A beérkező üzenet teljesen vagy részlegesen eltávolítja ezt kétértelműséget, tehát, az információk mennyisége mérhető, hogy milyen mértékben csökkent entrópia a rendszer, miután megkapta az üzenetet. Mivel az intézkedés az információk mennyisége megkapta ugyanazt entrópia, de ellentétes előjelű.
Más, kevésbé ismert mérési módszerek információk:
Algoritmikus megközelítés. Mivel sok különböző számítógépek és programozási nyelvek, azaz különböző módokon az írás az algoritmus, akkor biztosan kap néhány különleges készülék, például egy Turing-gép. Aztán, ahogy a kvantitatív jellemzésére üzenetek vehet egy minimális számú belső állapot gépet kell játszani ezt az üzenetet.
A szemantikai megközelítés. Az intézkedés a szemantikai információ tartalma, azaz annak összegét a szemantikai szinten, a legmagasabb elismerést az intézkedés szinonimaszótár (szinonimaszótár - egy sor információt, amely polzo¬vatel vagy rendszer), amely összeköti semanti¬cheskie tulajdonságok információt a felhasználó képes fogadni a beérkező üzeneteket.
A pragmatikus megközelítés. Ez az intézkedés meghatározza hasznosságára (érték) elérése a cél, a felhasználó által.
Az alapja az összes információt elmélet alapja felfedezésén R. Hartley 1928-ban, és amely abban a tényben, hogy az információ lehetővé teszi a mennyiségi értékelés.
R. Hartley megközelítés alapja az a set-elméleti, lényegében kombinatorikus alapítványok, valamint több ösztönösen egyértelmű és nyilvánvaló feltételezéseket.
Ha van egy elemek sokaságát, és egyet kiválaszt közülük, és ezáltal közölt által generált vagy egy bizonyos mennyiségű információt. Ez az információ az, hogy ha nem volt más választás, hogy melyik elem van kiválasztva, majd miután kiválasztotta az ismertté válik. Meg kell találni egy másik formája a funkció ennek mennyisége alapján szerzett információk kiválasztásával néhány a több, az elemek száma a készletben, azaz annak erejét.
Ha több elemet, amelynek a kiválasztási áll egyetlen elem, akkor egyértelmű, hogy a választás előre meghatározott, azaz nincs bizonytalanság nincs más választása - nulla mennyiségű információt.
Ha a készlet két elemből áll, a kiválasztás minimális bizonytalanság. Ebben az esetben a minimális és az információk mennyisége.
Minél több elemet egy sor, annál nagyobb a bizonytalanság a választás, annál több információt.
Ezeknek az összege számok (elemek) a beállított egyenlő:
Ezekből nyilvánvaló megfontolások legyen az első követelmény: az információ egy monoton függvénye a hatalom az eredeti meg.
A választás egy számot ad nekünk a következő mennyiségű információ:
Így a tartalmazott információk mennyiségének a bináris szám a bitek számát ez a szám.
Ez a kifejezés a képlet száma Hartley információkat.
By hosszának növelése kétszeres mennyiségű információt is növelni kell kétszer, annak ellenére, hogy a szám az egész számok a beállított növekszik exponenciálisan (négyzetes, ha a bináris szám), azaz ha
Lehetetlen, ha az információk mennyisége fejezi ki lineáris függvénye az elemek számát a készletbe. De tudjuk, hogy a funkció, amely pontosan a tulajdonsága, hogy a Log:
Log2 (N2) = log2 (N1) 2 = 2 * log2 (N1).
Ez a második követelmény az úgynevezett additivitásra követelmény.
Így a logaritmikus javasolt tájékoztatási Hartley, egyidejűleg kielégíti a feltételeket, a monotónia additivitást. Sam Hartley jött a intézkedés alapján heurisztikus megfontolások, mint hogy csak a fenti, de most szigorúan bizonyított, hogy a logaritmikus intézkedés az információk mennyisége egyértelműen következik ez a két feltétel feltételezték őket.
Példa. Vannak 192 érméket. Köztudott, hogy egyikük - hamis, például egy könnyebb súly. Határozza meg, hogy mennyit kell tenni súly mérés azonosítani őt. Ha tesz skálán egyenlő érmék száma, kapsz 3 független jellemzői: a) a bal oldali csésze alatti; b) jobbra lent a csészét; c) kiegyensúlyozott csészét. Így, egyenként ad száma információk I = log23, tehát, hogy meghatározzák a hamis érme tenni legalább mérés k, ahol k megfelel a legkisebb log23k log2192 állapotban. Ezért k vagy 5, k = 4 (k = 5, vagy - ha számít az egyik súlya és az utolsó nyilvánvaló, hogy meghatározza az érme). Tehát meg kell tennie legalább 5 mérés (mindössze 5).
Még dolgozik számítógépen
Abstract Informatika