Gleichung der linearen SVM-Regressionslinie

Question

Ich habe Schwierigkeiten, einen Weg zu finden, um die Gleichung für ein lineares SVM-Modell im Regressionsfall zu bekommen, da die meisten Fragen mit Klassifizierung befassen ... Ich habe es mit Caret-Paket passen .

1- univariaten Fall

set.seed(1) 
fit=train(mpg~hp, data=mtcars, method="svmLinear") 
plot(x=mtcars$hp, y=predict(fit, mtcars), pch=15) 
points(x=mtcars$hp, y=mtcars$mpg, col="red") 
abline(lm(mpg~hp, mtcars), col="blue") 

, die das Grundstück mit rot = aktueller, schwarz gibt = ausgestattet und blaue Linie ist klassisch Regression. In diesem Fall weiß ich, dass ich die SVM-Vorhersagelinie manuell aus 2 Punkten berechnen kann, aber gibt es eine Möglichkeit, die Gleichung direkt aus der Modellstruktur zu erhalten? Ich brauche eigentlich die Gleichung so y = a + b x (hier mpg =? +? * Hp) mit Werten im Originalmaßstab.

2-multivariate

gleiche Frage, aber mit zwei abhängigen Variablen (mpg~hp+wt) Danke,

Answer 1

Ja, ich glaube, es gibt. Werfen Sie einen Blick auf this answer, die ähnlich ist, aber nicht die Caret-Bibliothek verwendet. Wenn Sie dem Beispiel svp = fit$finalModel hinzufügen, sollten Sie in der Lage sein, es fast genau zu verfolgen. Ich habe eine ähnliche Technik auf Ihre Daten angewendet. Ich skalierte die Daten so, dass sie gut auf die Grafik der Vektoren passten, da die Bibliothek die Daten zur Laufzeit skaliert.

require(caret) 

set.seed(1) 
x = model.matrix(data=mtcars, mpg ~ scale(hp)) #set up data 
y = mtcars$mpg 

fit=train(x, y, method="svmLinear") #train 

svp = fit$finalModel #extract s4 model object 

plot(x, xlab="", ylab="") 
w <- colSums(coef(svp)[[1]] * x[unlist(alphaindex(svp)),]) 
b <- b(svp) 
abline(b/w[1],-w[2]/w[1], col='red') 
abline((b+1)/w[1],-w[2]/w[1],lty=2, col='red') 
abline((b-1)/w[1],-w[2]/w[1],lty=2, col='red') 

Und Ihre zweite Frage:

x = model.matrix(data=mtcars, mpg ~ scale(hp) + scale(wt) - 1) #set up data 
fit=train(x, y, method="svmLinear") #train 

svp = fit$finalModel #extract s4 model object 

plot(x, xlab="", ylab="") 
w <- colSums(coef(svp)[[1]] * x[unlist(alphaindex(svp)),]) 
b <- b(svp) 
abline(b/w[1],-w[2]/w[1], col='red') 
abline((b+1)/w[1],-w[2]/w[1],lty=2, col='red') 
abline((b-1)/w[1],-w[2]/w[1],lty=2, col='red') 

bearbeiten

Die obige Antwort betrifft eine Grenze Plotten, nicht die lineare SVM-Regressionslinie. Um die Frage zu beantworten, besteht ein einfacher Weg, die Linie zu erhalten, darin, die vorhergesagten Werte zu extrahieren und die Regression zu zeichnen. Sie benötigen tatsächlich nur ein paar Punkte, um die Zeile zu erhalten, aber der Einfachheit halber habe ich den folgenden Code verwendet.

abline(lm(predict(fit, newdata=mtcars) ~ mtcars$hp), col='green')

oder

abline(lm(predict(fit) ~ mtcars$hp), col='green')