Sklearn：パイプラインをデバッグする方法はありますか？

Question

私は分類作業のパイプラインをいくつか作成しました。どの段階にどの情報が存在するか/保存されているかをチェックしたいと思います（例：text_stats、ngram_tfidf）。どうすればこのことができますか？

pipeline = Pipeline([ 
    ('features',FeatureUnion([ 
       ('text_stats', Pipeline([ 
          ('length',TextStats()), 
          ('vect', DictVectorizer()) 
         ])), 
       ('ngram_tfidf',Pipeline([ 
          ('count_vect', CountVectorizer(tokenizer=tokenize_bigram_stem,stop_words=stopwords)), 
          ('tfidf', TfidfTransformer()) 
         ])) 
      ])), 
    ('classifier',MultinomialNB(alpha=0.1)) 
]) 

Answer 1

あなたはstepsとnamed_steps属性を使用してPipeline()ツリーを走査することができます。後者は、コンテンツが、私は一時的にデバッグステップを追加する便利なタイミングでそれを見つける

Answer 2

transformer_list属性を使用して同じように探求することができ

FeatureUnion()あなたにこのリストから構築された辞書を与える前者はタプル('step_name', Step())のリストです。あなたが興味のある情報を出力します。sklearnの例1の例の上にビルドすると、たとえば、最初の5行、シェイプなどを見分けることができます。呼び出される：

from sklearn import svm 
from sklearn.datasets import samples_generator 
from sklearn.feature_selection import SelectKBest 
from sklearn.feature_selection import f_regression 
from sklearn.pipeline import Pipeline 
from sklearn.base import TransformerMixin, BaseEstimator 

class Debug(BaseEstimator, TransformerMixin): 

    def transform(self, X): 
     print(pd.DataFrame(X).head()) 
     print(X.shape) 
     return X 

    def fit(self, X, y=None, **fit_params): 
     return self 

X, y = samples_generator.make_classification(n_informative=5, n_redundant=0, random_state=42) 
anova_filter = SelectKBest(f_regression, k=5) 
clf = svm.SVC(kernel='linear') 
anova_svm = Pipeline([('anova', anova_filter), ('dbg', Debug()), ('svc', clf)]) 
anova_svm.set_params(anova__k=10, svc__C=.1).fit(X, y) 

prediction = anova_svm.predict(X)