Sklearn: Gibt es eine Möglichkeit, Pipelines zu debuggen?

Question

Ich habe einige Pipelines für Klassifizierungsaufgabe erstellt, und ich möchte herausfinden, welche Informationen in jeder Phase vorhanden/gespeichert sind (z. B. text_stats, ngram_tfidf). Wie könnte ich das tun?

pipeline = Pipeline([ 
    ('features',FeatureUnion([ 
       ('text_stats', Pipeline([ 
          ('length',TextStats()), 
          ('vect', DictVectorizer()) 
         ])), 
       ('ngram_tfidf',Pipeline([ 
          ('count_vect', CountVectorizer(tokenizer=tokenize_bigram_stem,stop_words=stopwords)), 
          ('tfidf', TfidfTransformer()) 
         ])) 
      ])), 
    ('classifier',MultinomialNB(alpha=0.1)) 
]) 

Answer 1

Sie können Ihre Pipeline() Baum mit steps und named_steps Attribute durchlaufen. Ersteres ist eine Liste von Tupeln ('step_name', Step()) während letztere Ihr einen Wörterbuch aus dieser Liste konstruiert gibt

FeatureUnion() Inhalt auf die gleiche Weise mit transformer_list Attribute

Answer 2

ich es manchmal finde erkundet werden könnte nützlich, um vorübergehend einen Debug-Schritt hinzufügen Dadurch können Sie die Informationen ausdrucken, die Sie interessieren. Ausgehend von dem Beispiel aus dem Beispiel 1 von sklearn können Sie beispielsweise die ersten 5 Zeilen, die Form oder was auch immer Sie vor dem Klassifizierer ansehen möchten, ausdrucken genannt:

from sklearn import svm 
from sklearn.datasets import samples_generator 
from sklearn.feature_selection import SelectKBest 
from sklearn.feature_selection import f_regression 
from sklearn.pipeline import Pipeline 
from sklearn.base import TransformerMixin, BaseEstimator 

class Debug(BaseEstimator, TransformerMixin): 

    def transform(self, X): 
     print(pd.DataFrame(X).head()) 
     print(X.shape) 
     return X 

    def fit(self, X, y=None, **fit_params): 
     return self 

X, y = samples_generator.make_classification(n_informative=5, n_redundant=0, random_state=42) 
anova_filter = SelectKBest(f_regression, k=5) 
clf = svm.SVC(kernel='linear') 
anova_svm = Pipeline([('anova', anova_filter), ('dbg', Debug()), ('svc', clf)]) 
anova_svm.set_params(anova__k=10, svc__C=.1).fit(X, y) 

prediction = anova_svm.predict(X)