Metody výuky neuronové sítě

V posledních letech učení neuronové sítě

Důvody popularity

Odborníci vysvětlují úspěšnost zavedení do praxe neuronových sítí z několika důvodů:

• bohaté příležitosti;
• snadné použití;
• atraktivita.

Podívejme se blíže na každý bod.

Učení neuronové sítě s učitelem je silná modelovací technika, která vám umožňuje zvážit nejsložitější závislosti.

Neuronové sítě jsou studovány pomocí příkladů. Uživatel potřebuje vybrat reprezentativní data a potom spustit algoritmus učení, který automaticky vnímá strukturu vstupních dat.

Bude vyžadovat nějaký počáteční soubor heuristických poznatků o výběru a přípravě dat, výběr potřebných síťová architektura, interpretace výsledků. Teprve tehdy learningové vícevrstvé neuronové sítě bude úspěšné. Ale tato úroveň je mnohem jednodušší než klasické statistické techniky.

Výcvik konvoluční neuronové sítě přitahuje uživatele, protože jsou založeny na jednoduchém biologickém modelu nervových systémů. Zlepšení takových neurobiologických modelů povede k vytvoření jedinečných myšlenkových počítačů.

Rozsah aplikace

Učení neuronové sítě umožňuje rozpoznávat texty, řeč a provádět sémantické vyhledávání. Mezi oblasti jejich aplikace budeme identifikovat systémy, které pomáhají při rozhodování, analyzovat ceny akcií, texty, řídit bezpečnost na World Wide Web.

Vlastnosti vzdělávacího procesu

Předtím, než mluvíme o tom, jak se pečuje neuronová síť, pojďme se zabývat jejich zvláštnostmi. Neurální umělé sítě, jako jsou biologické, jsou počítačový systém s paralelním paralelním paralelním procesorem, který má velký počet připojení.

Na rozdíl od biologických analogů vykazují neurální umělé sítě mnoho vlastností, které jsou pro mozog charakteristické: generalizace, analýza, vzorkování dat z toku informací.

Mohou změnit své chování v závislosti na vnějším prostředí. Po analýze počátečních dat jsou nezávisle naladěny a vycvičeny a poskytují správnou reakci.

Výsledná síť je odolná vůči některým odchylkám v původních datech, takže nedochází ke zkreslení kvůli vnějšímu rušení.

V polovině minulého století skupina výzkumníků syntetizovala fyziologické a biologické přístupy, vznikl první umělý nervový systém.

Bez školení bylo obtížné plně pochopit strukturu, vlastnosti a účel sítí. Zdá se, že se nám podařilo najít klíč k umělé inteligenci. Ale iluze muže byly rychle rozptýleny. Sítě snadno vyřešit řešení některých problémů, analyzovat data. Ale nedokázali se vyrovnat s jinými úkoly, to znamená, že se ukázali jako velmi omezené.

Proto pokračoval trénink neuronových sítí a vytvořil vědecký základ pro tyto aktivity.

Na konci dvacátého století byly založeny firmy, které se zabývají tvorbou aplikačního softwaru pro vytváření umělých sítí. V té době se také objevilo strojní učení. Neuronové sítě se ukázaly jako efektivní při řešení složitých problémů, například při ověřování platební schopnosti zákazníků bank.

Metody výuky

Aby síť mohla vyřešit úkoly, které jí byly přiděleny, je nutné ji vycvičit. Tato schopnost je považována za hlavní vlastnost mozku. Co? metody výcviku neuronových sítí jsou nejúčinnější? Pod výcvikovým procesem pro takové systémy se rozumí proces úpravy struktury vazeb mezi jednotlivými neurony a synoptickými vazbami, které ovlivňují signály koeficientů. Vytvořené komplexy umožňují efektivně řešit úkol nastavený před sítěmi. V podstatě učení neuronové sítě na nějakém vzorku. Jak jste vyřešil tento problém? Zvláštní algoritmy pro učení neuronových sítí. Umožňují zvýšit účinnost reakce na příchozí signály, rozšířit oblasti jejich aplikace.

Vzdělávací paradigma

Hluboký výcvik neuronových sítí probíhá na následujících základech:

• s učitelem;
• bez mentora;
• smíšená forma.

První z nich je charakterizována známými správnými odpověďmi na každou variantu vstupu, váhy jsou nastaveny tak, aby se minimalizovala možnost chyby.

Samostudium umožňuje distribuovat původní vzorky do kategorií, což je dosaženo zveřejněním povahy dat a vnitřní struktury.

Smíšený druh je považován za syntézu dvou předchozích přístupů. Školení neuronové sítě znamená informovat ji o informacích, které od ní chceme. Tento proces je podobný výuce dětské abecedy. Ukázal dopis a pak se zeptat: „Co je písmeno“ V případě, že odpověď je v pořádku, dítě znovu vysvětlit, jak opravit.

Proces se opakuje, dokud nezůstanou v paměti správné informace. Tento postup se nazývá "školení s učitelem".

Podstata procesu

Podívejme se na to, jak fungují umělé neuronové sítě. Školení je prováděno podle podobného schématu. Zpočátku je přijata určitá databáze obsahující některé příklady (sada obrázků písmen).

Pokud na vstupu neuronové sítě ukážeme písmeno "A", dává určitou odpověď, což může být nesprávné. Ve formě požadovaného výstupu se v problému navrhované klasifikace použije množina (1,0,0, hellip-), ve které je výstup s označením "A" 1 a na všech ostatních výstupech - označení 0.

Při určování rozdílu mezi reálnou a požadovanou odpovědí sítě získáme 33 čísel - jedná se o vektor případné chyby. Můžete jí opakovaně zobrazovat stejný dopis. Učení se tedy považuje za opakování stejných cvičení (trénink), proto můžeme říci, že se provádí dostatečně hluboké cvičení.

Neuronová síť bez výcviku není připravena k práci. Teprve poté, co se mnohonásobná demonstrace příkladů znalostí postupně stabilizuje, systémy dávají správné odpovědi na navrhované otázky.

V takových situacích se říká, že se provádí hluboké školení. Neuronové sítě postupně snižují velikost chyby. Když je jeho hodnota snížena na nulu, trénink se zastaví. Vzdělávaná neuronová síť je považována za vhodnou pro použití na nových nezpracovaných datech.

Informace o úloze, kterou má síť, naleznete v souboru příkladů. To je důvod, proč účinnost výcviku neuronové sítě souvisí s počtem příkladů obsažených ve výcvikovém komplexu. Existuje také závislost na úplnosti popisu problému.

Například neuronový systém nemůže předpovědět finanční krizi, pokud nebyly poskytnuty scénáře ve vzorku výcviku. Profesionálové tvrdí, že pro školení o kvalitě sítě je nutné prokázat alespoň deset příkladů.

Učební proces je intenzivní a složitý věda. Po dokončení můžete síť používat pro praktické účely.

Hlavním rysem lidského mozku je reprodukce získaných informací v situacích, kdy je to nezbytné. Vyškolená síť vlastní velké množství informací, které vám umožní získat správnou odpověď na nové snímky.

Abychom mohli vytvořit proces učení, musíme mít představu o modelu prostředí, ve kterém funguje neuronová síť.

Takový model určuje úkol učení. Potřebujete také pochopit, jak můžete změnit základní parametry sítě, jak používat nastavení. Podstata učení zahrnuje postup, při kterém se pravidla učení používají pro ladění algoritmů.

Algoritmy pro učení neuronových sítí

V současné době využívají několik svých možností:

• konjugované gradienty;
• šíření zpět;
• Kvazi-newtonský;
• pseudo-reverse;
• Výcvik v Kohonenu;
• Levenberg-Markar;
• vektorový kvantizer;
• metoda K-nejbližších sousedů (KNN)
• nastavení explicitní odchylky.

To není vše algoritmy pro učení neuronových sítí, v současné době.

Po určení počtu vrstev a počtu prvků v každém z nich je nutné určit indikátory pro tuto síť, což by minimalizovalo chybu prognózy, kterou nabízí.

Tento proces lze považovat za přizpůsobení modelu implementovaného sítí k prezentovaným informacím o školení.

Důležité body

Chyba konkrétní konfigurace sítě se vypočítá tak, že se všechny stávající pozorování srovnají s cílovými hodnotami výstupních hodnot.

Je lepší použít algoritmy, které umožňují trénovat neuronovou síť v minimálním počtu kroků. Předpokládají malý počet proměnných. Důvodem této volby je, že v současné době školení neuronových sítí se provádí v počítačích s malým výkonem, omezenou pamětí.

Odrůdy

Stochastické metody předpokládají významný počet kroků v procesu učení. Proto je prakticky nemožné je použít pro moderní neuronové sítě velkých rozměrů.

Exponenciální nárůst přesnosti vyhledávání při zvyšování algoritmů optimalizace rozsahu dimenze problému neumožňuje použití takových systémů v učebním procesu.

Metoda konjugovaného gradientu je vysoce citlivá na přesnost provedených výpočtů. Zvláště při řešení problémů optimalizace modelu měřítka. Musí používat další proměnné.

Všechny algoritmy pro výcvik neuronových systémů, používané v současné době, jsou založeny na vyhodnocovací funkci. To vám umožní provést celkové hodnocení kvality celé sítě.

Jsou považovány za poměrně jednoduché, takže na krátkou dobu nedávají dobrý systém řízení, nejsou vhodné pro analýzu složitých systémů.

Možnosti pro urychlení procesu učení

Vzhledem k tomu, neuronová síť je považována za jeden z projevů umělé inteligence, které jsou často používány v rozpoznávání vzorů, řešení optimalizačních problémů.

Byla vytvořena řada modelů takových sítí, které se vyrovnávají s různými aplikovanými problémy. Pro každý z nich existují algoritmy a metody výcviku. Přes tuto rozmanitost se práce na zdokonalování algoritmů, vytváření nových modelů nezastaví, avšak teorie sítí ještě není dostatečně formalizovaná.

Etapy vývoje

Existují dvě hlavní etapy, které se používají při vývoji neuronových sítí. Strukturní syntéza zahrnuje výběr konkrétního modelu, stejně jako analýzu předběžné struktury, algoritmus učení.

Parametrická syntéza zahrnuje nejen proces učení neuronové sítě, ale i kvalitativní test výsledků. Při úvahách je možné rozhodnout, zda se má vrátit do počátečních fází parametrická nebo strukturální analýza.

Neúplná tvorba etap vede k velkému počtu problémů pro vytvořenou síť. Například na konstrukční fázi syntézy při výběru modelu struktury, algoritmus, vyžadují velké úsilí, pomoci zkušených vývojářů počítače.

Ve fázi parametrické syntézy během procesu učení vznikají omezené výpočetní zdroje. Problémy se složitou strukturou vyžadují velké úsilí z neuronových systémů, takže proces zahrnuje významné časové náklady.

Existují určité metody, jak tyto náklady snížit školení neurálních vícevrstvých sítí. Jsou založeny na principu dostatečnosti, kdy systémová chyba nemůže překročit určitý ukazatel. Například k těmto metodám se přihlíží ke korekci kroků modernizace hmotností, transformace rozpoznatelných tříd.

Vyrobeno učení neuronové sítě dokud chyba nedosáhne nuly. To je spojeno s velkým výdajem časových prostředků, protože není možné okamžitě zjistit chybu, aby se odstranila příčina jejího výskytu.

Závěr

Určete účinnost učení neuronové sítě pomocí konkrétního úkolu můžete dosáhnout požadovaného výsledku.

Pokud je například navržena určitá úloha související s klasifikací, je pro její vyřešení nutná vícevrstvá neuronová síť. Pro jeho výcvik je vhodný moderní algoritmus pro zpětné šíření chyby.

Odhad možných chyb vzniklých během procesu učení se provádí dvěma způsoby: globální a místní. Druhá možnost předpokládá, že v neuronech výstupní vrstvy existují chyby. Z globálního pohledu se předpokládá, že i-tý výcviková sada chyb v celé síti je přítomna.

Školení může být považováno za ideální v případě, že síť po něm opakuje výcvikový vzorek, nedává chyby a poruchy ve fungování.

Takový výcvik je náročný na práci. Je dosaženo pouze ve vzácných případech. Princip dostatečnosti spočívá v úplném odmítnutí hledání ideálu při plnění určitého úkolu. Pokud jej přenesete do tréninkové procedury neuronové moderní sítě, není vždy dodržena ideální přesnost.

Chcete-li rozpoznat objekt, stejně jako jeho třídy, je povoleno, aby síťová chyba v sadě nepřekročila exponent delta-. Taková hodnota bude považována za maximální index, při kterém se zachová přesnost výpočtů.

Přístup neuronové sítě je obzvláště účinný při provádění úkolů týkajících se odborného hodnocení, zpracovávání informací různých druhů.