Tudd Intuíció, előadás, neurális hálózat optimalizálása
Növekvő Neural Networks
Az általuk javasolt modell osztályába tartozik a növekvő neurális hálózatok. Ezek a hálózatok a saját megoldani a problémát alkalmazkodni struktúráját a követelményeknek a probléma kiküszöbölése. Emlékezzünk többrétegű perceptrons amely szám a rejtett rétegek és idegsejtek bennük gyakran választják próbálgatással. Amint azt ebben a tekintetben, kétféle megközelítés létezik az adaptív kiválasztása neurális hálózati architektúra. Az első megközelítés nyilvánvalóan felesleges neurális hálózat megtizedelte a kívánt összetettségének fokát. Növekvő hálózatok másrészt, indul egy nagyon egyszerű és kis struktúrák nőnek, és egyre összetettebb, ha szükséges.
Frittske és Wilke kifejlesztett egy olyan önszerveződő (a tanár és gyakornokok) hálózatok különböző szerkezetű, mint például a növekvő sejtből struktúrák, és a növekvő neurális gáz Rising háló. Az első, és használta őket megoldására az utazó ügynök probléma (és egyéb kombinatorikus optimalizációs problémák).
Növekvő sejt szerkezete a TSP egy első gyűrűt három sejtek neuronok. Minden neuron jellemzi kétdimenziós vektor meghatározó pozícióját a gépen. Mindegyik neuron a gyűrűben tulajdonítják a hibahatár, amely kezdetben zérus. További eljárás során a következő két fő elemi művelet: ofszet, valamint egy új neuron. Offset (lásd. 6.2 ábra)
- kiválasztja véletlenszerű város
- határozza meg a neuron-győztes, a legközelebb a városi
- összesen neuron és a két legközelebbi szomszédok a gyűrű eltolódott abba az irányba, a város egy bizonyos távolságra megosztani.
Ezek a műveletek nagyon hasonlóak használt Kohonen modellben. A különbség az, hogy az utóbbi tartományban, ahol a meghatározott közelségi paraméter alkalmazkodás és az idő múlásával csökken.
Ábra. 6.2. elmozdulás eljárás mozgatja a neuron-győztes és a hozzá legközelebbi szomszédai irányában egy véletlenszerűen kiválasztott város
Egy új neuron.
Idővel, több ciklusban elmozdulás halmozódik információkat, amelyek alapján a döntést a helyet, ahol az új neuron kell hozzá. Minden alkalommal, amikor a város elhatározta, véletlenszerűen kiválasztott hozzá legközelebb neuron, lokális hiba az utolsó növekszik. Nagy értéke a hiba azt jelzi, hogy a megfelelő neuron egy régió, ahol az arány (a neuronok száma) / (városok száma) kicsi. Ez az ezeken a területeken ki kell egészíteni az új neuronok, hogy megkapjuk a helyes utat értelmes körülbelül minden városban legyen a következő neuron. Útvonal és határozza meg a gyűrű mentén mozognak neuron a legközelebb egy adott városban. optimális útvonal keresési algoritmus segítségével a két leírt műveleteket van formuláivá a következőképpen:
- Inicializálása: generált gyűrűs szerkezet, amely három neuronok, amelyek véletlenszerű helyzetben a gépen.
- Úgy végezzük, hogy meghatározott számú szaporítási műveletek. Minden lépésnél átalakítjuk egy helyi hiba.
- Határozza meg a „legrosszabb” linkre gyűrűt összekötő két neuronok, és amelyek összege a legnagyobb. Az új neuron helyezünk a közepére összekötő kapcsot a neuronok, és megtörtént és a hiba értékét. Ugyanakkor, az értékeket a neuronok a hibák és csökkenthető úgy, hogy az összes hiba megmarad :,
- Ha bármilyen két város neuronok melléjük eltérő, akkor az útvonalat talál. Ellenkező esetben térjen vissza az 1. lépéshez.
Nyilvánvaló, hogy a megoldás nem található korábban, hogy az idegsejtek száma a gyűrűben eléri a városok száma. Tény, hogy elérjék ez szükséges a neurális hálózat. Ennek alapján az empirikus megfigyelés, amely szerint az ismétlések számát a megrendelés, akkor lehet, hogy értékelje a teljes összetettségét az algoritmust. Az 1. lépésben szükséges ellenőrzési összes neuronok, hogy megtalálják a legközelebbi város. Ez történik egyszerre, és mivel ez a szám, annál ellenőrzések számát is a sorrendben. A 2. lépésben, akkor ellenőrizni kell minden láncszeme, hogy talál valamit, ami megfelel a maximális teljes hibája terminál neuronokat. Mivel az egységek számát egyenlő a neuronok számát, a műveletek száma nagyságrendű újra. A 3. lépésben minden egyes város meg kell találnia a következő neuron, ami legalább intézkedésekre van szükség. Így, mivel az 1-3 lépéseket igényel legalább műveleteket, valamint a ciklus megismétlődik egyszer időbonyolultsága legalább egyenlő. A térbeli komplexitása az algoritmus, ahogy kell foglalni memória városok, a neuronok és néhány helyi változókat.
Hogy javítsa a másodfokú időbonyolultsága leírt algoritmus Frittske és Wilke módosított lépésben 1-3. Ezek figyelembe vette, hogy megfelelően numerikus kísérletek első gyűrűs szerkezetet az idegsejtek gyorsan eloszlik a területen helyét a városok, majd a növekedés a neuronok számának változásai válnak a helyi. Ez a viselkedés arra késztette őket, hogy cserélje ki az ötlet a globális keresés a neuron-győztes az 1. lépésben, a közelítő helyi eljárást. Nevezetesen, az egyes városi emlékezni a neuron, amely a leggyakrabban talált hozzá legközelebb, és ha a város ismét kiválasztja, a keresés, a legközelebbi neuron korlátozódik a neuron és közvetlen szomszédai a gyűrűben legfeljebb rendelni k. Mivel k állandó, akkor a keresés a nehézség ebben az esetben.
Ábra. 6.3. Helyi keresés a legjobb a neuron: -predyduschy neuron; közvetlen szomszédai akár 2 nagyságrenddel is jelöltek nyertesek a következő lépésben
A probléma megoldásához a legnagyobb hiba a 2. lépésben a lineáris keresés hivatkozást használja azt a tényt, hogy ez a kapcsolat az, ami összeköti a neuronok, gyakran válik pobedityami.
A harmadik lépés is lehet módosítani: ha egy neuron egy párszor a legközelebbi város, így a város gyűrűs szerkezet stabilizálódik, és a neuron „ragasztott”, hogy az adott helyre. Ez azt jelenti, hogy egy vonalban van a városban, és már nem mozog. Város eltávolítjuk a városok listáját, játszott el a forgalmazási szakaszban. Ha a lista kiürül útvonal keresési folyamat véget ér.
Így minden egyes lépés a ciklusban most van szükség a folyamatos műveletek száma és időbonyolultsága az egész algoritmus válik sorrendben.
Leírt hatékony neurális hálózat megközelítés (FLEXMAP) teszteltük különböző eloszlások városok akár 200 útvonalakat és következetesen, különböző nem több, mint 9% -a az optimális.