Mesterséges neurális hálózatok - studopediya
Mindezek ellenére az előrehaladás a mesterséges intelligencia területén, egy csomó probléma ezen a területen továbbra is a csatorna a számítógépek alapuló Neumann architektúra. CPU-utasítások sorozata nem képes érzékelni, és úgy gondolja, hasonló szinten az emberi elme számára. Emiatt sok kutató fordul autók alternatív architektúrák. Az egyik ilyen architektúrák - mesterséges neurális hálózat (mesterséges neurális hálózat).
Ahogy 2. fejezetében található, a mesterséges neurális hálózat áll több egyedi processzor, amely nevezünk az adatfeldolgozó egység (vagy, rövidítve egyszerűen egység), valamint a neurális hálózatok képződnek az élő biológiai rendszerekben. Biológiai neuronok - egy cellán csápok információk beviteléhez, az úgynevezett dendritek, és csápjai információ megjelenítésére - axonok (ábra 10.13.). A jelek továbbítására a cellán keresztül axonok jelzésére, hogy a gátolt vagy gerjesztett állapotba kerül. Ezt az állapotot a kombinációja határozza meg a vett jelek szerint a sejt nyúlványai. Dendritek jeleket kapnak az axonok más sejtek kis réseken át az úgynevezett szinapszisok. Tanulmányok azt mutatják, hogy a szinapszis konduktancia által ellenőrzött kémiai összetétele. Azaz, ha egy adott bemeneti fogja jelezni gátolja vagy stimuláló hatása a neuron, a szinapszis határozza meg a kémiai összetétel. Ezért úgy vélik, hogy a neurális hálózat képzett beállításával ezek a kémiai idegsejtek közötti kapcsolatok.
Az adatfeldolgozó egység a mesterséges neurális hálózat egy egyszerű készülék szimulációs ezeket az alapvető folyamatok a biológiai neuron. A kimenet egy vagy nulla attól függően, hogy egy hatékony bejegyzés meghaladja az említett küszöbértéket. Hatékony bejegyzés - súlyozott összege a tényleges bemenetek, amelyre példát ábrán látható. 10.14. ebben
Ábra kimenetek három adatfeldolgozó egység (jelöljük t>. V2 és P3) bemenetei a másik blokk. Bemenetek a negyedik blokk társított értékek, azaz súlyok (Igen. W2 és yes3). Az egység, amely megkapja az információkat megsokszorozza minden egyes bemeneti értékek a kapcsolódó tömeg, majd hozzáadja a szorzás eredménye, hogy kapjunk egy hatékony bemeneti (V ^ wt + v2w2 + v3w3). Ha a kapott összeg meghaladja a küszöbértéket feldolgozó egység, a kimenet értéke 1, egyébként a kimeneti érték 0 szállítjuk.
adatfeldolgozó modulok (lásd. ábra. 10.14) kerül jelölt téglalapok. A bejáratnál, hogy tegyen egy kis téglalap jelzi a készülék a bemenetek, amelyek mindegyike írunk súlya társított bemenet. A közepén a nagy téglalap levelet a küszöböt a modul. Így, az adatfeldolgozó egység (ábra. 10,15) három bemenettel és egy küszöbérték egyenlő 1,5. Az első bejegyzés van rendelve egy súly 2, a második - a tömeg 3, és a harmadik - a súlya -1. Így, ha egy modul megkapja bemenet értéke 1, 1 és 0, jelentése megegyezik a hatásos bemeneti:
és a kimeneti tápláljuk 0. Azonban, ha egy modul megkapja 0, 1 és 1, az effektív kimeneti lesz:
amely meghaladja a küszöbértéket. A kimenet lesz egy egységet.
Az a tény, chtoves lehet pozitív vagy negatív, azaz egy megfelelő bemenet lehet gátló vagy serkentő hatása van a fogadó egység. (Ha a súly negatív, akkor a értéke 1 bemeneténél csökkenti a súlyozott összege, és így hajlamos arra, hogy tartsa a tényleges input a küszöbérték alatt. A pozitív súlya miatt a megfelelő bemeneti, hogy növelje a súlyozott összeg, egyre nagyobb az esélye, hogy az összeg meghaladja a küszöbértéket.) Ezen túlmenően, a tényleges tömeg értékét vezérli a szintjét hatások (gátló vagy stimuláló), hogy a fogadó egység. Ezért az értékek változtatása a súlyok az egész mesterséges neurális hálózat, tudjuk programozni a hálózaton, hogy reagál a különböző bemenetek valamilyen előre meghatározott módon.
Vegyünk egy példát. Egyszerű ábrán látható hálózat. 10,1, és úgy van programozva, hogy adjon 1, ha az értékek a két bemenet eltérő, és 0 különben (logikai XOR művelet). Ha megváltoztatjuk a súly, ábrán látható. 10,16, b, megkapjuk a neten, hogy kiadja 1, ha az értékek mindkét bemenet 1 és 0 - egyébként (logikai művelet ÉS).
Felhívjuk a figyelmet arra a tényre, hogy a hálózat ábrán látható. 10.16 sokkal könnyebb valódi biológiai hálózatokat. Az emberi agyban mintegy 10 „neuronok, és mindegyik neuron van mintegy 104 szinapszisok. Száma dendritek egy biológiai neuron olyan nagy, hogy úgy néznek ki, mint az üvegszálas hálózat nem egyedi csápok látható a számok.
Ahhoz, hogy megértsük a lehetséges mesterséges neurális hálózatok, úgy a karakterfelismerés probléma a példa nagybetűvel C és T, ábrán látható. 10.17. A cél az, hogy azonosítsa a leveleket helyezünk egy látómezőben, függetlenül azok tájolását. Az összes sablon látható. 10,18, és el kell ismerni, mint a C betű, és az összes sablont használt részét képviseli a levelet T.
Kezdjük a feltételezést, hogy a látómező áll négyzetes pixel, amelyek mindegyike egyenlő a négyzet elemeket, amelyek alkotják a betűk. Minden pixel van kötve egy érzékelő, amely kiadja 1, ha a pixel megtekinthető a levél zárva van, és 0 - egyébként. A kimenetek ezen szenzorok használjuk bemenetként, a mesterséges neurális hálózat.
Lánc (ábra. 10,19) áll, két adatfeldolgozó egység szintek. Az első szint egy több blokkból - egy-egy minden régió mérete 3x3 pixel egy látómezőben. Minden ilyen egység kilenc bemenet, amelyek kapcsolódnak érzékelők-nak 3x3. (Megjegyezzük, hogy a mezőt kapcsolódó feldolgozó egység az első réteg egymást átfedik annak érdekében, hogy minden egyes érzékelő bemenete az első szintre kilenc adatblokkok.)
A második szint a hálózatunk áll egy feldolgozó egység által bemenetű párhuzamosan mindegyik első szintű hirdetési egységet. A második réteg adatfeldolgozó egység beállított küszöbértéket 0,5, és minden bejegyzés kerül sor „ez egyenlő 1. Ezért, ez az egység kimenetén egy egységet, ha, és csak akkor, ha legalább az egyik bemeneti egyenlő 1.
Minden egyes adat feldolgozó modul az első szint küszöbértéket is be van állítva, hogy 0,5. Minden egyes bemeneti súlya 1 értékre van beállítva, kivéve bemeneti társított központi 3x3 pixel régió a modul, amelyre a súly egyenlő 2. így mindegyik ilyen modulok adhat ki egységet, csak ha az egység fogadja az érzékelőtől társított pixel a központban 3x3 területen.
Most, ha a C betű a látómező (ábra. 10,20), az összes a feldolgozó egység az első szinten kap egy értéke 0. Ez azért van, mert olyan területeken 3x3-as a központi pixel, amely zárva a levelet, még legalább két másik pixel, továbbá zárt levél és a kapott jelek érzékelők csökkentik az értékét a központi pixel jelet. Ezért, ha a látómező a C betű, mind a bemenet, a második szint feldolgozó blokk értéke 0, és kimenete a teljes hálózat is nulla.
Tekintsük a helyzet a T betű a láthatáron. Képzeljünk el egy régióját 3x3, melynek közepén - egy négyzet, zárt lábak nizhneychastyu T betű (ábra 10.21.). A feldolgozó egység társított négyzet kap hatékony belépési 1 (2 a központi pixel és egy másik pixel zárt láb). Ez meghaladja a küszöbértéket a blokk, így küld egység
Magasabb szintű blokk. Így, egy magasabb szintű egység is ad értéke 1.
Következésképpen, megkaptuk egy mesterséges neurális hálózat, amely képes különbséget tenni a betűk C és T, függetlenül azok orientáció a látómezőben. Ha ez a mező a C betű, a hálózat kimenetek értéke 0; A T betű hálózati egység kimenetet.
Régóta megfigyelték, hogy a fejlesztés és a tesztelés elméletek gyakran jár a kis kísérleteket nagyméretű alkalmazásokat. Az első vizsgálat az új elmélet általában végzett kicsi, egyszerű esetben. Ha a siker érhető el, kísérleti közeg kitágul reálisabb, nagy rendszerek. Egyes elméletek túlélni ezt az átmenetet, míg mások - nem. Néha a siker a kis feladat olyan nagy, hogy az elmélet hívei ragaszkodnak folyamatos vizsgálatok még kudarca után egy nagyszabású fenyítenem más tudósok. Bizonyos esetekben, a kitartás kifizetődik, másokban - ez csak energiapazarlás.
Hasonló forgatókönyv látható a mesterséges intelligencia területén. Egy példa - természetes nyelvi feldolgozás, ahol a siker a korlátozott körülmények miatt sok elhinni, hogy megértsék a gép bármely természetes nyelv szó a küszöbön. Sajnos, hogy sikert érjen el nagyobb feladat sokkal nehezebb volt, és a győzelem ment nagyon lassan, és ennek eredményeként jelentős erőfeszítést. Egy másik példa a mesterséges neurális hálózatok, amelyek beléptek a tudományos életben „fanfár”, bement az árnyékok miatt lehetőségeket a nagyobb problémákat kérdőjeleződik meg, és most vissza, hanem egy nyugodtabb légkörben néhány éven belül. Amint később ebben a fejezetben, a téma a genetikus algoritmusok tesztelése jelenleg az átmenet teszt. Eddig, a válasz arra a kérdésre, hogy van-e egy evolúciós megközelítés hasznos eszköz a jövőben nem található.
Természetesen képes különbséget tenni a két karakter - egy halvány hasonlóságot mutat a képfeldolgozó képességek birtokában az emberi elme. De döntések elegancia, mint ez, egyértelműen azt mondja, hogy a további kutatások ezen a területen több mint indokolt.
Látjuk, hogy a mesterséges neurális hálózat aktív kutatási terület. A fő akadály a kutatási kapcsolatos fejlesztés és programozás az ilyen hálózatok. Tipikus feladatai hálózat kialakítása - a meghatározása a egységek számát egy adott feladatra, és ezek kombinációja a maximális termelékenységet.
Ami a mesterséges neurális hálózat programozás, láttuk, hogy a cél az, hogy ennek megfelelő súlyokat tartalmaz különböző feldolgozó egységek a rendszer. Ebből a célból a hálózat újra mellékelt teszt bemenet és a súlyokat állítjuk egymás után egy kis mennyiséget a tényleges termelés a rendszer közeledik kívánatos. Mivel a folyamat az ismétlés különböző bemenetek súly kell a kereslet egyre inkább kisebb kiigazítások és ennek eredményeként a hálózat kezd működik megfelelően a teljes körű vizsgálati adatok. De ez most szükséges - stratégia a súlyok kiigazítása úgy, hogy minden új kiigazítási közelebb visz minket a cél, és nem veszi el a kapott eredményeket az előző lépésben.
Az emberi elme van egy csodálatos képessége, hogy visszaállítsa kapcsolatos információk a jelenlegi állapotot. Feeling bizonyos szagok, akkor azonnal felidézni minden helyzetben a gyermekkor. A hang a többi hang is felidézni a kép egy ember, vagy talán emlékek időt is töltött. Bizonyos zene emlékeztet egy kellemes hétvégét. Mindez - példák asszociatív memória (asszociatív memória), azaz a helyreállítás társított információ vagy adat imeyuschimiya idetartozó.
Építőipari gép asszociatív memória volt a cél, számos tanulmány idővel. Az egyik megközelítés ebben a kérdésben - a technikák alkalmazása mesterséges neurális hálózatok. Vegyük például egy hálózat, amely több adatfeldolgozó blokkok csatlakozik egy internetes nélküli bemenettel és kimenettel. (Egyes típusoknál úgynevezett Hopfield hálózatok, a kimenet minden egyes feldolgozó egység bemeneteire kapcsolt összes többi egység, egyéb esetekben a blokk kimenete csatlakoztatható pusztán a legközelebbi szomszédok.) Minden modul lehet a működtetett vagy zárt állapotban. Jelöljük a gerjesztett állapot az egység, és gátolt - nulla, az állam a teljes hálózat is képviselteti magát egy sor nullák. Most tételezzük fel, hogy a hálózat úgy van programozva, hogy a konkrét konfigurációtól nullák stabil abban az értelemben, hogy ha a hálózat szerepel egy ilyen állapotok, továbbra is ott. Amikor a hálózat egy instabil konfigurációs, interakciós adatblokkok okoz annak változása, egymást követő változások végső soron egy stabil konfigurációk.
Ha a hálózat felveszi a munkát instabil konfiguráció, közel a stabil, azt várjuk, hogy ez fog mozogni ebben a stabil állapot. Bizonyos értelemben, része a kapott stabil konfigurációt, a hálózat teljes mértékben visszaállíthatja a konfigurációt. Vagy más szóval, megtalálja a készítmény bitek ezzel kapcsolatos részleges összetételét. Így, ha egy részét kódoláshoz használt bitek szagokat, és mások - a kódoló gyermekkori emlékek, beállítás biteket szag összhangban egy adott stabil konfigurációt okozna a fennmaradó biteket visszaállíthatja kapcsolódó memóriák gyermekkori.
Tekintsünk egy mesterséges neurális hálózat ábrán látható. 10.22. Minden kör az ábrán jelöli az adatfeldolgozó egység, a küszöb, amely rögzíti a körön belül. A sorok között a körök közötti kapcsolat a megfelelő blokkok. Minden kommunikáció kétirányú, azaz a vonal köti össze a két darabot, jelezve, hogy a termelés minden egyes ezeket a blokkokat a bemeneti másik. Következésképpen, a kimenet a központi egység van csatlakoztatva bemeneteire összes blokkot mentén kerülete, és a kerülete minden blokk kimenet bemenet a központi egység. Két csatlakoztatott kijelöli azonos berendezésben tömeg bemenetek egymástól. Ez a teljes anyag tömegének sora melletti összekötő őket. Ily módon a blokk tetején a diagram belépési 1 hozzárendel egy súlyt kapott a központi egység, és a súlya 1 bemeneteket a szomszédai a kerülete mentén. Anatogichno, a központi egység hozzárendel egy tömege 1-től mind az értékeket, amelyeket kapott kerülete blokkokat.
Ez a hálózat működik diszkréten, azaz minden lépésben a feldolgozó egységek szinkron reagálni bemenet. Hogy meghatározza a következő hálózati konfiguráció a jelenlegi kiszámítjuk a tényleges hálózati bemenet az összes blokkot, majd hagyjuk egységek egyszerre reagálnak a bemenet. Ezért az összes hálózat végzi szigorú műveletek sorozata: kiszámítjuk hatékony bemenet, válaszoljon bemenet, ismét olyan hatékony bemenet, válaszoljon bemenet, stb ...
Tekintsük az események sorozata, amely akkor történik, ha hozunk létre egy ilyen hálózati konfiguráció, amikor csak két jobb szélső gátolta blokk, és a többi gerjesztjük (ábra. 10.23, a). A bal szélső blokkok hatékony lesz bemenetek értéke 1, így marad izgatott. A szomszédok a kerület lesz nulla hatékony be- és adja át a gátolt állapotban. Az effektív bemenet a központi egység lesz egyenlő 4, úgy, hogy ez is belép gátolt állapotban. Következésképpen, a teljes hálózati konfigurációs változások a konfiguráció (ábra. 10,23, b), ahol csak a két szélső bal blokk izgatott. Mivel a központi egység már fékezett, a gerjesztett állapotban a bal szélső blokkok okozhat újra gerjesztés az alsó és felső blokkok. Ugyanakkor, a központi egység lesz tiltva a hatékony belépési mert 2. A hálózati bemegy a ábrán látható állapot. 10.23 A, ahonnan megy a ábrán látható állapot. 10,23, város (akkor biztos lehet benne, hogy a villogó hatás is jelentkezik, ha telepíti a hálózat olyan állapotban, amikor hozta csak négy felső egység. A felső egység marad a gerjesztett állapotban, mivel a szomszédai a kerület és a központi egység fog elmozdulni a gerjesztett állapot gátolt és vissza.)
Végül megjegyezzük, hogy ez a hálózat két stabil konfigurációk, amikor a központi egység gerjesztve, és az összes többi gátolta, és amikor a központi egység fékezett, és a blokkok izgatott kerülete. Ha létrehoz egy hálózatot az állapot, amikor hozta csak a központi egység, és nem több, mint két blokk a kerület, akkor mozog az első stabil állapotban van. Ha mi egy minimum négy szomszédos blokkok a gerjesztett állapotban, akkor lépjünk a második stabil állapot. Így azt mondhatjuk, hogy a hálózat köti össze az első stabil állapotát, hogy a kezdeti konfiguráció, ahol a központi idegrendszer blokkot és legalább három egység a kerület, és a második -, hogy egy konfigurációs kezdeményezett, ha négy vagy több blokkot a hálózat kerülete. Azaz, a hálózat bizonyítja az elemi asszociatív memória.