Scipys kleinste quadratische Funktion mit IRLS verstehen

Question

Ich habe ein bisschen Mühe zu verstehen, wie diese Funktion funktioniert.

a, b = scipy.linalg.lstsq(X, w*signal)[0] 

Ich weiß, dass das Signal das Array ist das Signal darstellt, und zur Zeit w ist nur [1,1,1,1,1...]

Wie soll ich X oder w manipulieren gewichteten kleinsten Quadrate zu imitieren oder mindestens quadriert iterativ neu gewichtet?

Answer 1

Wenn Sie das Produkt X und Y mit sqrt (Gewicht) Sie gewichteten kleinsten Quadrate berechnen kann. Sie können die Formel durch folgenden Link erhalten:

http://en.wikipedia.org/wiki/Linear_least_squares_%28mathematics%29#Weighted_linear_least_squares

hier ein Beispiel:

Daten vorbereiten:

import numpy as np 
np.random.seed(0) 
N = 20 
X = np.random.rand(N, 3) 
w = np.array([1.0, 2.0, 3.0]) 
y = np.dot(X, w) + np.random.rand(N) * 0.1 

OLS:

from scipy import linalg 
w1 = linalg.lstsq(X, y)[0] 
print w1 

Ausgabe:

[ 0.98561405 2.0275357 3.05930664] 

WLS:

weights = np.linspace(1, 2, N) 
Xw = X * np.sqrt(weights)[:, None] 
yw = y * np.sqrt(weights) 
print linalg.lstsq(Xw, yw)[0] 

Ausgang:

[ 0.98799029 2.02599521 3.0623824 ] 

Prüfergebnis von statsmodels:

import statsmodels.api as sm 
mod_wls = sm.WLS(y, X, weights=weights) 
res = mod_wls.fit() 
print res.params 

Ausgang:

[ 0.98799029 2.02599521 3.0623824 ] 

Answer 2

Erstellen Sie eine Diagonalmatrix W aus den elementweisen Quadratwurzeln von w. Dann denke ich, Sie wollen einfach nur:

scipy.linalg.lstsq(np.dot(W, X), np.dot(W*signal)) 

Nach http://en.wikipedia.org/wiki/Linear_least_squares_(mathematics)#Weighted_linear_least_squares