Jak sama nazwa wskazuje, propagacja wsteczna to plik algorytm która z powrotem propaguje błędy z węzłów wyjściowych do węzłów wejściowych. Dlatego jest po prostu określany jako „wsteczna propagacja błędów”. To podejście zostało opracowane na podstawie analizy ludzkiego mózgu. Rozpoznawanie mowy, rozpoznawanie znaków, weryfikacja podpisów, rozpoznawanie twarzy to tylko niektóre z interesujących zastosowań sieci neuronowych. Sieci neuronowe przechodzą nadzorowane uczenie się, wektor wejściowy przechodzący przez sieć wytwarza wektor wyjściowy. Ten wektor wyjściowy jest weryfikowany z żądanym wyjściem. Jeśli wynik nie zgadza się z wektorem wyjściowym, generowany jest raport o błędach. Na podstawie raportu o błędach wagi są korygowane w celu uzyskania żądanego wyniku.
Co to jest sztuczna sieć neuronowa?
Na Sztuczna sieć neuronowa wykorzystuje regułę uczenia nadzorowanego, aby stać się wydajnym i potężnym. Informacje w sieciach neuronowych przepływają na dwa różne sposoby. Przede wszystkim wtedy, gdy model jest szkolony lub uczony i kiedy model działa normalnie - do testowania lub do wykonania dowolnego zadania. Informacje w różnych formach są wprowadzane do modelu przez neurony wejściowe, wyzwalając kilka warstw ukrytych neuronów i docierając do neuronów wyjściowych, co jest znane jako sieć wyprzedzająca.
Ponieważ wszystkie neurony nie są wyzwalane w tym samym czasie, neurony, które otrzymują dane wejściowe z lewej strony, są mnożone przez wagi, gdy podróżują przez ukryte warstwy. Teraz zsumuj wszystkie dane wejściowe z każdego neuronu, a kiedy suma przekroczy pewien poziom progowy, neurony, które pozostały ciche, zostaną wyzwolone i zostaną połączone.
Sztuczna sieć neuronowa uczy się, że uczy się na podstawie tego, co zrobiła źle i dobrze, a to jest znane jako sprzężenie zwrotne. Sztuczne sieci neuronowe wykorzystują informacje zwrotne, aby dowiedzieć się, co jest dobre, a co złe.
Co to jest Backpropagation?
Definicja: Propagacja wsteczna jest podstawowym mechanizmem uczenia sieci neuronowych. Jest to mechanizm używany do precyzyjnego dostrajania wag sieci neuronowej (nazywanej inaczej w tym artykule modelem) w odniesieniu do poziomu błędów wygenerowanego w poprzedniej iteracji. Jest to podobne do posłańca, który mówi modelowi, czy sieć popełniła błąd, czy nie, gdy tylko przewidziała.
wsteczna propagacja sieci neuronowych
Propagacja wsteczna w sieciach neuronowych polega na przenoszenie informacji i powiązanie tych informacji z błędem wygenerowanym przez model podczas zgadywania. Ta metoda ma na celu zmniejszenie błędu, który jest inaczej nazywany funkcją straty.
Jak działa propagacja wsteczna - prosty algorytm
Propagacja wsteczna w uczeniu głębokim jest standardowym podejściem do uczenia sztucznych sieci neuronowych. Działa to w ten sposób, że - początkowo podczas projektowania sieci neuronowej jako wagi przypisywane są wartości losowe. Użytkownik nie jest pewien, czy przypisane wartości wagi są prawidłowe lub pasują do modelu. W rezultacie model generuje wartość, która różni się od rzeczywistej lub oczekiwanej wartości wyjściowej, która jest wartością błędu.
Aby uzyskać odpowiednie dane wyjściowe przy minimalnym błędzie, model powinien zostać przeszkolony w odniesieniu do odpowiedniego zestawu danych lub parametrów i monitorować jego postęp za każdym razem, gdy przewiduje. Sieć neuronowa ma związek z błędem, więc za każdym razem, gdy zmieniają się parametry, zmienia się również błąd. Propagacja wsteczna wykorzystuje technikę znaną jako reguła delta lub gradient malejący w celu zmiany parametrów w modelu.
Powyższy diagram pokazuje działanie wstecznej propagacji, a jej działanie podano poniżej.
- „X” na wejściach dociera ze wstępnie połączonej ścieżki
- „W”, rzeczywiste wagi są używane do modelowania danych wejściowych. Wartości W są przydzielane losowo
- Dane wyjściowe dla każdego neuronu są obliczane poprzez propagację przekazywania - warstwę wejściową, warstwę ukrytą i warstwę wyjściową.
- Błąd jest obliczany na wyjściach za pomocą równania. Propagując ponownie wstecz przez warstwy wyjściowe i ukryte, wagi są korygowane w celu zmniejszenia błędu.
Ponownie wykonaj propagację do przodu, aby obliczyć wynik i błąd. Jeśli błąd jest zminimalizowany, proces ten kończy się lub jest propagowany wstecz i dostosowuje wartości wagi.
Ten proces powtarza się, aż błąd zostanie zredukowany do minimum i zostanie uzyskany pożądany wynik.
Dlaczego potrzebujemy wstecznej propagacji?
Jest to mechanizm używany do uczenia sieci neuronowej związanej z określonym zestawem danych. Niektórzy zalety Backpropagation są
- Program jest prosty, szybki i łatwy
- Dostrajane są tylko numery wejść, a nie inne parametry
- Nie ma potrzeby posiadania wcześniejszej wiedzy na temat sieci
- Jest elastyczny
- Standardowe podejście i działa wydajnie
- Nie wymaga od użytkownika uczenia się funkcji specjalnych
Rodzaje sieci propagacji wstecznej
Istnieją dwa rodzaje sieci z propagacją wsteczną. Jest podzielony na następujące kategorie:
Statyczna propagacja wsteczna
Statyczna propagacja wsteczna to jeden z typów sieci, którego celem jest odwzorowanie statycznego wejścia na statyczne wyjście. Tego rodzaju sieci są w stanie rozwiązywać problemy klasyfikacji statycznej, takie jak optyczne rozpoznawanie znaków (OCR).
Powtarzająca się wsteczna propagacja
Powtarzająca się propagacja wsteczna to kolejny rodzaj sieci wykorzystywanej w uczeniu się ze stałym punktem. Aktywacje w powtarzającej się propagacji wstecznej są przekazywane do przodu, aż osiągną ustaloną wartość. Następnie błąd jest obliczany i propagowany wstecz. ZA oprogramowanie , NeuroSolutions ma możliwość wykonywania powtarzającej się wstecznej propagacji.
Kluczowe różnice: statyczna propagacja wsteczna oferuje natychmiastowe mapowanie, podczas gdy mapowanie powtarzającej się propagacji wstecznej nie jest natychmiastowe.
Wady wstecznej propagacji
Wady propagacji wstecznej to:
- Propagacja wsteczna może być wrażliwa na zaszumione dane i nieprawidłowości
- Wydajność w dużym stopniu zależy od danych wejściowych
- Potrzebuje dużo czasu na trening
- Potrzeba metody opartej na macierzach do propagacji wstecznej zamiast mini-partii
Zastosowania wstecznej propagacji
Aplikacje są
- Sieć neuronowa jest wyszkolona do wypowiadania każdej litery słowa i zdania
- Znajduje zastosowanie w dziedzinie rozpoznawanie mowy
- Znajduje zastosowanie w rozpoznawaniu postaci i twarzy
FAQs
1). Dlaczego potrzebujemy wstecznej propagacji w sieciach neuronowych?
Jest to mechanizm używany do uczenia sieci neuronowej związanej z określonym zestawem danych
2). Jaki jest cel algorytmu wstecznej propagacji?
Celem tego algorytmu jest stworzenie mechanizmu uczącego dla sieci neuronowych, aby upewnić się, że sieć jest wyszkolona do mapowania wejść na ich odpowiednie wyjścia.
3). Jaki jest współczynnik uczenia się w sieciach neuronowych?
Szybkość uczenia się definiuje się w kontekście optymalizacji i minimalizacji funkcji strat sieci neuronowej. Odnosi się do szybkości, z jaką sieć neuronowa może uczyć się nowych danych, zastępując stare dane.
4). Czy sieć neuronowa jest algorytmem?
Tak. Sieci neuronowe to seria algorytmów uczenia się lub reguł zaprojektowanych w celu identyfikacji wzorców.
5). Jaka jest funkcja aktywacji w sieci neuronowej?
Funkcja aktywacji sieci neuronowej decyduje, czy neuron powinien zostać aktywowany / wyzwolony, czy nie, na podstawie całkowitej sumy.
W tym artykule, pojęcie wstecznej propagacji sieci neuronowych wyjaśniono prostym językiem, aby czytelnik mógł je zrozumieć. W tej metodzie sieci neuronowe są uczone na podstawie generowanych błędów, aby stały się samowystarczalne i radziły sobie ze złożonymi sytuacjami. Sieci neuronowe mają możliwość dokładnego uczenia się na przykładzie.
