Jakie są zalety sztucznych sieci neuronowych nad maszynami wektorowymi? [zamknięte]

Oczywistą zaletą sztucznych sieci neuronowych nad maszynami wektorowymi jest to, że sztuczne sieci neuronowe mogą mieć dowolną liczbę wyjść, podczas gdy maszyny wektorowe mają tylko jedną. Najbardziej bezpośrednim sposobem tworzenia klasyfikatora n-ary z maszynami wektorowymi jest tworzenie n maszyn wektorowych i trenowanie każdej z nich jeden po drugim. Z drugiej strony klasyfikator n-ary z sieciami neuronowymi można trenować za jednym zamachem. Dodatkowo sieć neuronowa będzie miała większy sens ponieważ jest to jedna całość, podczas gdy maszyny wektorów nośnych są układami izolowanymi. Jest to szczególnie przydatne, jeśli wyniki są ze sobą powiązane.

Na przykład, gdyby celem było sklasyfikowanie ręcznie pisanych cyfr, zrobiłoby to dziesięć maszyn obsługujących wektory. Każda maszyna wektorowa rozpoznałaby dokładnie jedną cyfrę, a nie rozpoznałaby wszystkich innych. Ponieważ każda odręczna cyfra nie może zawierać więcej informacji niż tylko jej klasa, nie ma sensu próbować rozwiązać tego za pomocą sztuczna sieć neuronowa.

Załóżmy jednak, że celem było modelowanie równowagi hormonalnej człowieka (dla kilku hormonów) jako funkcji łatwo mierzonych czynników fizjologicznych, takich jak czas od ostatniego posiłku, tętno itp ... Ponieważ wszystkie te czynniki są ze sobą powiązane, sztuczna regresja sieci neuronowej ma większy sens niż regresja maszynowa wektora nośnego.

Należy zauważyć, że te dwie rzeczy są bardzo ze sobą powiązane. Liniowe SVM są równoważne jednowarstwowym NN (tj. perceptronom) , a wielowarstwowe NNs mogą być wyrażone w kategoriach SVM. Zobacz tutaj po kilka szczegółów.

Jeśli chcesz użyć SVM jądra, musisz odgadnąć jądro. Jednak ANNs są aproksymatorami uniwersalnymi, przy czym do odgadnięcia należy jedynie szerokość (dokładność aproksymacji) i wysokość (wydajność aproksymacji. Jeśli poprawnie zaprojektujesz problem optymalizacji, nie będziesz nadmiernie dopasowywać (zobacz bibliografię dla nadmiernego dopasowania). Zależy to również od przykładów szkoleniowych, czy skanują poprawnie i równomiernie przestrzeń wyszukiwania. Wykrywanie szerokości i głębokości jest przedmiotem liczby całkowitej programowanie.

Załóżmy, że masz ograniczone funkcje f (.) i ograniczonych aproksymatorów uniwersalnych na I=[0,1] z przedziałem ponownie i = [0,1], np. które są parametryzowane przez rzeczywistą sekwencję zwartej podpory U (., a) z właściwością, że istnieje ciąg sekwencji z

lim sup { |f(x) - U(x,a(k) ) | : x } =0

I rysujesz przykłady i testy {[2] } z rozkładem D na IxI.

Dla zalecanego wsparcia, to co robisz, to znalezienie najlepszego takiego, który

sum {  ( y(l) - U(x(l),a) )^{2} | : 1<=l<=N } is minimal

Niech to a=aa, które jest zmienna losowa!, over-fitting jest wtedy

Średnia za pomocą D and D^{N} of ( y - U(x,aa) )^{2}

Pozwól mi wyjaśnić, dlaczego, jeśli wybierzesz aa tak, że błąd jest zminimalizowany, to dla rzadkiego zbioru wartości masz idealne dopasowanie. Jednak, ponieważ są one rzadkie, średnia nigdy nie wynosi 0. Chcesz zminimalizować drugi, chociaż masz dyskretne przybliżenie do D. i pamiętaj, że długość wsparcia jest wolna.

Należy również wziąć pod uwagę, że układ SVM może być zastosowany bezpośrednio do przestrzeni niemetrycznych, takich jak zbiór oznaczonych Wykresów lub ciągów. W rzeczywistości wewnętrzna funkcja jądra może być odpowiednio uogólniona do praktycznie każdego rodzaju danych wejściowych, pod warunkiem spełnienia dodatniego wymogu definicyjności jądra. Z drugiej strony, aby móc używać ANN na zestawie oznakowanych Wykresów, należy wziąć pod uwagę jawne procedury osadzania.

Jednej odpowiedzi brakuje mi tutaj: Wielowarstwowy perceptron jest w stanie znaleźć związek między cechami. Na przykład jest to konieczne w wizji komputerowej, gdy surowy obraz jest dostarczany do algorytmu uczenia się i teraz obliczane są zaawansowane funkcje. Zasadniczo poziomy pośrednie mogą obliczać nowe nieznane funkcje.