Myślę, że M0rkHaV ma dobry pomysł. Klasa pipeline Scikit-learn jest użytecznym narzędziem do hermetyzacji wielu różnych transformatorów wraz z estymatorem w jeden obiekt, dzięki czemu musisz wywołać swoje ważne metody tylko raz (fit(), predict(), itp.). Podzielmy dwa główne składniki:

1. Transformatory {[32] } są klasami, które implementują zarówno fit(), jak i transform(). Możesz być zaznajomiony z niektórymi narzędziami do wstępnego przetwarzania sklearn, takimi jak TfidfVectorizer i Binarizer. Jeśli spojrzysz na dokumenty tych narzędzi do wstępnego przetwarzania, zobaczysz, że implementują one obie te metody. To, co uważam za całkiem fajne, to to, że niektóre estymatory mogą być również używane jako etapy transformacji, np. LinearSVC!

2. Estymatory {[32] } są klasami, które implementują zarówno fit(), jak i predict(). Przekonasz się, że wiele klasyfikatorów i modeli regresji implementuje obie te metody i jako takie możesz łatwo przetestować wiele różnych modeli. Możliwe jest użycie innego transformator jako ostateczny Estymator (tzn. niekoniecznie implementuje predict(), ale zdecydowanie implementuje fit()). Wszystko to oznacza, że nie będziesz w stanie zadzwonić predict().

Co do Twojej edycji: przejdźmy do przykładu opartego na tekście. Używając LabelBinarizer, chcemy przekształcić listę etykiet w listę wartości binarnych.

bin = LabelBinarizer()  #first we initialize

vec = ['cat', 'dog', 'dog', 'dog'] #we have our label list we want binarized

Teraz, gdy binaryzator jest zamontowany na niektórych danych, będzie miał strukturę o nazwie classes_, która zawiera unikalne klasy, które transformer 'wie' o Bez wywołania fit() binaryzator nie ma pojęcia, jak wyglądają dane, więc wywołanie transform() nie miałoby żadnego sensu. Jest to prawdą, jeśli wydrukujesz listę klas przed próbą dopasowania danych.

print bin.classes_  

Podczas próby tego dostaję następujący błąd:

AttributeError: 'LabelBinarizer' object has no attribute 'classes_'

Ale kiedy zmieścisz binaryzator na liście vec:

bin.fit(vec)

I spróbuj jeszcze raz

print bin.classes_

Dostaję:

['cat' 'dog']


print bin.transform(vec)

A teraz, po wywołaniu transform na vec obiekt, otrzymujemy:

[[0]
 [1]
 [1]
 [1]]

Jeśli chodzi o estymatory używane jako transformatory, użyjmy klasyfikatora DecisionTree jako przykład ekstraktora funkcji. Drzewa decyzyjne są świetne z wielu powodów, ale dla naszych celów, ważne jest to, że mają zdolność oceniania cech, które drzewo {31]} {32]} uznało za przydatne do przewidywania. Kiedy wywołasz transform() na drzewie decyzyjnym, pobierze Twoje dane wejściowe i znajdzie to, co uważa za najważniejsze funkcje. Można więc pomyśleć o przekształceniu macierzy danych (n wierszy przez kolumny m) w mniejszą macierz( n wierszy przez kolumny k), gdzie kolumny k są najważniejszymi cechami K, które znalazło drzewo decyzyjne.

Algorytmy ML zazwyczaj przetwarzają dane tabelaryczne. Możesz chcieć wykonać wstępne przetwarzanie i przetwarzanie tych danych przed i po algorytmie ML. Rurociąg jest sposobem na łańcuch tych etapów przetwarzania danych.

Czym są ml pipelines i jak działają?

Rurociąg to szereg kroków, w których dane są przekształcane. Pochodzi ze starego wzorca projektowego "pipe and filter" (na przykład, można pomyśleć o Unixowych komendach bash z pipes " / " lub przekierowaniem operatory">"). Jednak potoki są obiektami w kodzie. W ten sposób możesz mieć klasę dla każdego filtra (aka każdy krok potoku), a następnie inną klasę, która połączy te kroki w końcowy potok. Niektóre rurociągi mogą łączyć inne rurociągi szeregowo lub równolegle, mieć wiele wejść lub wyjść i tak dalej. Lubimy oglądać Pipelining Machine Learning jako:

• rury i filtry . Kroki rurociągu przetwarzają dane i zarządzają ich stanem wewnętrznym, który można dowiedzieć się z danych.
• kompozyty . Rurociągi mogą być zagnieżdżane: na przykład cały rurociąg może być traktowany jako pojedynczy krok rurociągu w innym rurociągu. Etap rurociągu niekoniecznie jest rurociągiem, ale sam rurociąg jest przynajmniej etapem rurociągu z definicji.
• kierowane wykresy acykliczne (DAG) . Wyjście kroku rurociągu może być wysyłane do wielu innych kroków, a następnie wynikowe wyjścia mogą być rekombinowane i tak dalej. Uwaga: pomimo rurociągów są acykliczne, mogą przetwarzać wiele elementów jeden po drugim, a jeśli ich stan zmienia się (np. za każdym razem używając metody fit_transform), to mogą być postrzegane jako powtarzające się w czasie, zachowując swoje stany (myśl jak RNN). Jest to ciekawy sposób, aby zobaczyć rurociągi do prowadzenia nauki online podczas wprowadzania ich do produkcji i szkolenia ich na większej ilości danych.

Metody Scikit - learn Pipeline

Rurociągi (lub stopnie w rurociągu) muszą mieć te dwa metody :

• "w 1990 roku, po raz pierwszy w historii sieci neuronowej, w 1999 roku, w Polsce, w Polsce i za granicą, w Polsce i za granicą.]}
• "transform "(lub" predict"), aby faktycznie przetwarzać Dane i generować prognozy.

Możliwe jest również wywołanie tej metody do łańcucha zarówno:

• "fit_transform " dopasować, a następnie przekształcić dane, ale w jednym przejściu, co pozwala na potencjalną optymalizację kodu, gdy obie metody muszą być robione jeden po drugim bezpośrednio.

Problemy sklearn.rurociąg.Klasa rurociągu

Wzór projektu Scikit-Learn "pipe and filter" jest po prostu piękny. Ale jak go używać do głębokiego uczenia, AutoML i złożonych potoków na poziomie produkcji?

• Automatyczne Uczenie Maszynowe (AutoML),
• Deep Learning Pipelines,
• bardziej złożone Uczenie maszynowe rurociągi.

Rozwiązania, które znaleźliśmy dla tych problemów Scikit-Learn

• niezdolność do racjonalnego automatycznego uczenia maszynowego (AutoML)
  • Problem: zdefiniowanie przestrzeni wyszukiwania (Hiperparametr Dystrybucje)
  • Problem: Definiowanie Hiperparametrów w Konstruktorze ogranicza
  • Problem: różne zachowania pociągu i testu
  • Problem: wytrenowałeś rurociąg i chcesz uzyskać informacje zwrotne na temat jego uczenia się.
• niezdolność do racjonalnego robienia rurociągów głębokiego uczenia
  • Problem: Scikit-Nauka prawie nie pozwala na Mini-wsadowe opadanie gradientu (przyrostowe dopasowanie)
  • Problem: Inicjalizacja potoku i Dealokacja zasobów
  • Problem: trudno jest używać innych bibliotek Deep Learning (DL) w Scikit-Learn
  • Problem: możliwość przekształcania etykiet wyjściowych
• Nie gotowe do produkcji ani do złożonych rurociągów
  • Problem: przetwarzanie danych 3D, 4D lub ND w potoku za pomocą kroków wykonanych dla danych o niższych wymiarach
  • Problem: modyfikacja potoku Po drodze, na przykład do treningu przedtreningowego lub dostrajania
  • Problem: pobieranie atrybutów modelu z scikit-learn Pipeline
  • Problem: nie można Paralelizować ani zapisywać potoków za pomocą kroków, które nie mogą być serializowane "as-is" przez Joblib

Dodatkowe metody rurociągów i funkcje oferowane przez Neuraxle

Uwaga: Jeśli etap rurociągu nie musi mieć jednej z metod fit lub transform, może inherit from NonFittableMixin or NonTransformableMixin to be provided Domyślna implementacja jednej z tych metod, aby nic nie robić.

Jako rozrusznik można również opcjonalnie zdefiniować te metody :

• "setup ", która wywoła metodę "setup" na każdym kroku. Na przykład, jeśli krok zawiera sieć neuronową TensorFlow, PyTorch lub Keras, kroki mogą tworzyć wykresy neuronowe i zarejestrować je do GPU w metodzie "setup" przed dopasowaniem. Nie zaleca się tworzenia wykresów bezpośrednio w konstruktorach kroków z kilku powodów, na przykład jeśli kroki są kopiowane przed uruchomieniem wiele razy z różnymi hiperparametrami w ramach algorytmu automatycznego uczenia maszynowego, który wyszukuje najlepsze hiperparametry dla Ciebie.
• "teardown", która jest przeciwieństwem metody "setup": czyści zasoby.

The following metody są dostarczane domyślnie , aby umożliwić zarządzanie hiperparametrami:

• "get_hyperparams " zwróci ci słownik hiperparametrów. Jeśli rurociąg zawiera więcej rurociągów (rurociągów zagnieżdżonych), wtedy klucze hiperparametru są połączone łańcuchami z podwójnymi znakami podkreślenia separatorami"__".
• "set_hyperparams " pozwoli Ci ustawić nowe hiperparametry w tym samym formacie, kiedy je otrzymasz.
• "get_hyperparams_space " pozwala uzyskać przestrzeń hiperparametru, która nie będzie pusta, jeśli ją zdefiniujesz. Tak więc, jedyną różnicą z "get_hyperparams" tutaj jest to, że otrzymasz rozkłady statystyczne jako wartości zamiast dokładnej wartości. Na przykład, jeden hiperparametr dla liczby warstw może być RandInt(1, 3), co oznacza od 1 do 3 warstw. Możesz wywołać .rvs() na tym dict, aby wybrać wartość losowo i wysłać ją do "set_hyperparams", aby spróbować na niej trenować.
• "set_hyperparams_space " można użyć aby ustawić nową przestrzeń przy użyciu tych samych klas rozkładu hiperparametrów jak w "get_hyperparams_space".

Aby uzyskać więcej informacji na temat proponowanych przez nas rozwiązań, przeczytaj wpisy na dużej liście z linkami powyżej.