GridSeachCV Optimierung Verlangsamung

Question

Ich mache eine SVR und SVC-Optimierungen durch GridSearchCV mit Parellierung n_jobs = -1, die in meinem Fall 8 ist, ist meine Frage, warum die ersten Passungen sehr schnell laufen im Vergleich zu den letzten passt? Wie auf dem Foto 10212 dauerte die Anpassung 23,7 Sekunden, aber die volle Anzahl der Anpassungen 106764 benötigte 20,7 Minuten, was nur 4,2 Minuten betragen sollte, wenn eine lineare Extrapolation angenommen wird.

hier ist ein Beispiel für den Code:

opt = GridSearchCV(SVR(tol=tol),param_grid=param_grid,scoring=scoring,n_jobs=n_jobs,cv=cv,verbose=verbose) 
opt.fit(allr_sets_nor[:,:2],allr_sets_nor[:,2]) 

und dies ist der Bildschirm-Log:

Answer 1

Unterstützung-Vector-Maschine Lernen auf den gegebenen Parametern abhängig ist.

Parameter wie C haben Konsequenzen auf die Anzahl der Stützvektoren und daher werden Instanzen mit vielen Stützvektoren (indirekt von C gesteuert) viel langsamer trainiert.

Dies ist eine grundlegende Einschränkung von GridSearches.

(Eine andere etwas vollständigere nehmen auf diesem here by user lejlot)

Die Lernalgorithmen sind auch auf Heuristiken basieren, die einige zusätzliche kaum vorhersagbare Faktor diesem hinzufügen.