vorhergesagte Wahrscheinlichkeit logistische Regression in R mit gleich 1

Question

Ich habe ein einfaches GLM-Modell sieht aus, als:

glm.fit=glm(Retention2~Email+Pay.method, data=train, family = binomial) 

Alle DV und IVs sind kategorische Variablen mit zwei Ebenen.

Das Ergebnis der glm ist:

wenn ich die prädizierten Wahrscheinlichkeiten berechnet, wobei der Wahrscheinlichkeitswert 1,000 ist, wenn Pay.Method 0. Die Syntax und ausgegeben werden nachstehend aufgeführt ist:

glm.fit.prob=predict(glm.fit, newdata = test2, type="response") 

Es scheint, dass immer dann, wenn die pay.method ="EZ PAY", die Wahrscheinlichkeit wird 0. Ich denke mathematisch der Grund ist, dass die coeff von E-Mail so viel kleiner ist als intercept und Pay.method. Ich frage mich, ob mein Verständnis korrekt ist und wenn ja, wie kann ich das verstehen?

Answer 1

Der Fall wird Clear Clear-Fall genannt. Schauen Sie in Ihre Daten, wenn Sie haben pay.method ="EZ PAY" dann entweder Beobachtung fast Null sein könnte oder fast alle wird 1. Also idealerweise brauchen Sie kein Modell zu prognostizieren, weil Sie sagen können, ob Ergebnis 0 oder 1 ohne Modell (jetzt, wenn sein Fall ist oder wegen des Mangels an Daten ist eine andere Frage). Es ist besser, diese Fälle aus Trainingsdaten zu entfernen und dann das Modell zu trainieren (in diesem Fall entfernen Sie alle Beobachtungen mit pay.method ="EZ PAY").

Nun, warum dieses Verhalten. Die logistische Regressions-Maximum-Likelihood-Schätzung ist nicht sehr gut, um mit dem Fall der klaren Trennung umzugehen; Für eine gute Berichterstattung verweisen wir auf Hastie Tibshiranis statistisches Lernbuch. Sie empfehlen auch die Verwendung von Diskriminanzanalyse, da es besser ist, mit solchen Fällen umzugehen.