So verwenden Sie PCA auf dem Testset (Code)

Question

Ich versuche, PCA zu verwenden, um einige Hauptkomponenten von K auszuwählen.

Ich verstehe, dass man PCA auf dem Test-Set NICHT erneut ausführen sollte, aber die Eigenvektoren verwenden, die beim Modellieren des Trainingssatzes gefunden wurden.

Ich habe 2 CSV ist - Eins gesetzt Ausbildung,

Der andere ein Test-Set (ohne das Etikett pro Datensatz)

PCA-Prozess auf dem Trainingssatz mit der getan wird folgender code:

Nachdem ich fertig bin, ein Modell mit dem Trainingssatz zu bauen, müsste ich die Testi laden ng setze und führe mein Vorhersagemodell darauf aus.

Die Schwierigkeiten, die ich habe, im Sinne von ‚Wie es codieren?‘:

1. Wie K extrahieren PC nach dem Ausführen von PCA (auf der Ausbildung (Wird basierend auf Screeplot gewählt werden) Set), also basiert die Modellierung für das Trainingsszenario auf diesen? (Planung auf lineare Regression)

2. Wie K extrahierte PCs zu verwenden, wenn Sie das Modell auf einem tatsächlichen Testset ausführen möchten?

3. Soll ich zuerst die Merkmale im Testset nullstellen oder STD skalieren? Für das Trainingssatz verstehe ich prcomp Methode tut das schon für mich, also bin ich nicht sicher, ob ich es manuell auf dem Testset tun sollte.

4. Sollte ich kategorische Variablen des Test-Sets mit Dummy-Variablen in numerische umwandeln, wie ich es mit dem Trainingssatz getan habe?

I DO der Grund verstehen - die gleichen Operationen auf den Trainingssatz angewandt wird, soll auch auf die Prüfung angewandt werden.

Aber - ich bin mir nicht sicher, was genau das in Bezug auf Code bedeutet.

Dank

Answer 1

Ich bin mit dem USArrests-Datensatz Ihnen eine Idee, die Abfolge von Schritten zu geben, zu befolge PCA auf Testdaten durchzuführen.

library(dplyr) 
library(tibble) 
data(USArrests) 
train <- USArrests %>% rownames_to_column(var = "rowname") 
test <- USArrests %>% rownames_to_column(var = "rowname") 

Ansatz 1 - Kombinierte Zug & Test

# Join train and test set 
df <- bind_rows("train" = train, "test" = test, .id="group") 
# Run Principal Components Analysis 
pc <- prcomp(df %>% select(-rowname, -group), scale = TRUE) 
# Plot ScreePlot 
pc_var <- (pc$sdev^2)/sum(pc$sdev^2) 
plot(pc_var, xlab = "Principal Component", ylab = "Proportion of Variance Explained", type = "b") 
# Extract PCs (e.g. 1st 3 PCs) 
df <- augment(pc,df) %>% select(group, rowname, .fittedPC1 : .fittedPC3) 
# Split into train and test 
train <- df %>% filter(group == "train") %>% select(-group) 
test <- df %>% filter(group == "test") %>% select(-group) 

die Testdaten auslaufen können in die Zugdaten Bei diesem Ansatz.

Ansatz 2 - Mit predict() Testdaten aus PCA Beladungen von Zugdaten

# Run Principal Components Analysis 
pc <- prcomp(train %>% select(-rowname), scale = TRUE) 
# Extract PCs (e.g. 1st 3 PCs) 
train <- tbl_df(pc1$x) %>% select(PC1:PC3) 
test <- tbl_df(predict(pc, newdata = test %>% select(-rowname))) %>% select(PC1:PC3) 

Dieser Ansatz ist robuster gegenüber dem einem früher im Vergleich zu transformieren.