Encoding Datenetikett für Textklassifikation

Question

ich ein Projekt in der klinischen Textklassifikation tue. In meinem Korpus sind die Daten bereits mit einem Code versehen (Beispiele: 768.2, V13.02, V13.09, 599.0 ...). Ich habe bereits Text und Labels getrennt und dann Word-Embedded für Text verwendet. Ich werde sie in ein neuronales Faltungsnetzwerk einspeisen. Wie auch immer, die Labels müssen codiert werden, ich habe Beispiele für Sentiment-Textklassifizierung und Mnist gelesen, aber sie alle verwendeten Ganzzahlen, um ihre Daten zu klassifizieren, mein Label in Textform, weshalb ich keine Ein-Hot-Kodierung wie sie verwenden kann. Kann jemand irgendeinen Vorschlag machen? Dank

Answer 1

Discrete Textlabel leicht umwandelbar diskrete numerische Daten durch eine Aufzählungsumsetzung zu schaffen. Wenn zum Beispiel angenommen, die Etiketten „Ja“, „Nein“ und „Vielleicht“:

No -> 0 
Yes -> 1 
Maybe -> 2 

Und jetzt haben Sie numerische Daten, die später wieder umgerechnet werden können (solange der Algorithmus diejenigen, die als diskrete Werte zu behandeln und gib nicht 0.5 oder so zurück.

Im Fall jede Instanz kann Multiples Etiketten haben, wie Sie in einem Kommentar sagte, Sie die Codierung, indem jedes Etikett in einer Spalte erstellen können („One-Hot-Codierung“). Selbst wenn einige Software dies nicht von der Stange implementiert, ist es nicht schwer, sie von Hand zu erledigen.

Hier ist ein sehr einfache (und nicht gut geschrieben, ehrlich zu sein) Beispiel mit get_dummies Funktion des Panda:

import numpy as np 
import pandas as pd 
labels = np.array(['a', 'b', 'a', 'c', 'ab', 'a', 'ac']) 
df = pd.DataFrame(labels, columns=['label']) 
ndf = pd.get_dummies(df) 
ndf.label_a = ndf.label_a + ndf.label_ab + ndf.label_ac 
ndf.label_b = ndf.label_b + ndf.label_ab 
ndf.label_c = ndf.label_c + ndf.label_ac 
ndf = ndf.drop(['label_ab', 'label_ac'], axis=1) 
ndf 

    label_a label_b label_c 
0 1.0  0.0  0.0 
1 0.0  1.0  0.0 
2 1.0  0.0  0.0 
3 0.0  0.0  1.0 
4 1.0  1.0  0.0 
5 1.0  0.0  0.0 
6 1.0  0.0  1.0 

kann man jetzt auch ein multivariaten Modell zur Ausgabe trainiert die Werte von label_a, label_b und label_c und dann rekonstruiere die ursprünglichen Bezeichnungen wie "ab". Stellen Sie nur sicher, dass die Ausgabe in der Menge [0, 1] ist (durch Anwenden von softmax-layer oder ähnlichem).

Answer 2

Dit 4 Minuten Video (Corsera: ML-Klassifizierung (University of Washington) -> Week1 -> Encoding kategorische Eingänge) https://www.coursera.org/learn/ml-classification/lecture/kCY0D/encoding-categorical-inputs

Es gibt zwei Methoden der Codierung:

1. One Hot Encoding

2. Tasche von Wörtern (ich denke, das geeignetere Verfahren ist in diesem Fall)

folgende Diagramm beschreibt, wie Beutel von Wörtern Methode funktioniert. Text kann 10.000 verschiedene Wörter haben, die von ihm kommen, oder mehr, viele mehr, Millionen. Und was Bag of Words tut, nimmt diesen Text und kodiert ihn dann als Zählimpulse.

bearbeiten 1

Python Implementierung: Besuchen http://www.python-course.eu/text_classification_python.php