Vektorisierung: Keine gültige Sammlung

Question

Ich möchte eine TXT-Datei mit meinem Trainingskorpus für den OneClassSVM-Klassifikator vektorisieren. Dafür benutze ich CountVectorizer aus der scikit-learn Bibliothek. Hier unten mein Code:

def file_to_corpse(file_name, stop_words): 
    array_file = [] 
    with open(file_name) as fd: 
     corp = fd.readlines() 
    array_file = np.array(corp) 
    stwf = stopwords.words('french') 
    for w in stop_words: 
     stwf.append(w) 
    vectorizer = CountVectorizer(decode_error = 'replace', stop_words=stwf, min_df=1) 
    X = vectorizer.fit_transform(array_file) 
    return X 

Wenn ich meine Funktion auf meine Datei (um 206.346 Linie) betreibe ich die folgende Fehlermeldung erhalten, und ich kann es nicht zu verstehen scheinen:

Traceback (most recent call last): 
    File "svm.py", line 93, in <module> 
    clf_svm.fit(training_data) 
    File "/home/imane/anaconda/lib/python2.7/site-packages/sklearn/svm/classes.py", line 1028, in fit 
    super(OneClassSVM, self).fit(X, np.ones(_num_samples(X)), sample_weight=sample_weight, 
    File "/home/imane/anaconda/lib/python2.7/site-packages/sklearn/utils/validation.py", line 122, in _num_samples 
    " a valid collection." % x) 
TypeError: Singleton array array(<536172x13800 sparse matrix of type '<type 'numpy.int64'>' 
    with 1952637 stored elements in Compressed Sparse Row format>, dtype=object) cannot be considered a valid collection. 

Kann jemand Bitte hilf mir, dieses Problem zu lösen? Ich bin seit einer Weile fest :).

Answer 1

Wenn Sie an der Quelle suchen, können Sie es zum Beispiel finden here, können Sie feststellen, dass es für diese Bedingung wahr sein überprüft (x Ihr Array ist)

if len(x.shape) == 0: 

wenn ja, wird es erhöhen diese Ausnahme

TypeError("Singleton array %r cannot be considered a valid collection." % x) 

Was würde ich vorschlagen, dass Sie, wenn array_file oder Ihr Rückgabewert dieser Funktion, um herauszufinden, versuchen, eine Form Länge> 0