Linie Suche nicht in der Ausbildung ksvm prob.model

Question

Anknüpfend von Invalid probability model for large support vector machines using ksvm in R:

Ich trainiere eine SVM mit ksvm aus dem kernlab Paket in R. ich das Wahrscheinlichkeitsmodell verwenden will, aber während der S-förmige Beschlag ich die folgende Fehlermeldung:

line search fails -1.833726 0.5772808 5.844462e-05 5.839508e-05 -1.795008e-08 
-1.794263e-08 -2.096847e-12 

Wenn dies geschieht, ist der resultierende Wert von prob.model(m) ein Vektor aller Wahrscheinlichkeiten, anstatt der erwarteten Parameter einer Sigmoidfunktion über diese Wahrscheinlichkeiten versehen. Was verursacht diesen Fehler und wie kann ich es verhindern? Die Suche nach der Fehlermeldung ergab keine Ergebnisse.

Reproduzierbare Beispiel:

load(url('http://roelandvanbeek.nl/files/df.rdata')) 
ksvm(label~value,df[1:1000],C=10,prob.model=TRUE)->m 
prob.model(m) # works as it should, prints a list containing one named list 

# the below, non-working problem, unfortunately takes an hour due to the large 
# sample size 
ksvm(label~value,df,C=10,prob.model=TRUE)->m # line search fails 
prob.model(m) # just a vector of values 

Answer 1

auf den Quellcode der Suche, this is the line that throws that error.

Es ist auf der Methode .probPlatt mit der Newton-Methode, um die Funktion zu optimieren, in diesem Fall Platts Skalierung. Wenn Sie jedoch line 3007 überprüfen, sehen Sie einige Parameter, die sich auf die Methode beziehen.

Einer dieser Parameter ist minstep im Grunde der minimale numerische Schritt, den die Methode versuchen sollte, um die Funktion zu optimieren. Sie sehen, das ist genau die Bedingung des Fehlers in Zeile 3090: if (stepsize < minstep). Im Grunde genommen konvergiert die Funktion nicht, selbst wenn die minimale Schrittweite erreicht wird.

Sie können versuchen, minstep zu ändern, um Werte zu verringern, um es zu umgehen. Alexandros bemerkte sogar, dass diese Parameter wahrscheinlich in der Schnittstelle sein sollten.