Coursera Maschinelles Lernen: Gradientenabstieg Vektorisierung

Question

Ich habe Probleme zu verstehen, wie Funktionen auf dem Machine Learning-Kurs, der auf Coursera verfügbar ist, zu vektorisieren.

Im Kurs Andrew Ng erklärt, dass die Hypothese der transponierte Theta von x multipliziert vektorisiert werden kann:

H(x) = theta' * X 

Mein erstes Problem ist, wenn ich diese Übungen auf implementieren. Warum ist die Vektorisierung auf Papier die Transponierte von Theta multipliziert mit x, während auf Oktave X mal Theta ist?

theta'*X % leads to errors while multiplying 

Mein zweites Problem folgen dem ersten.

Wenn ich diese Summe der Gradientenabfallsaktualisierung Funktion vektorisieren wollen:

sum((h(x)-y)*x)) 

Ich verstehe nicht wirklich, wie Sie auf diese einmal vektorisiert erhalten:

X'*(h(x)-y) 

Jeder konnte das erklären?

Answer 1

Es ist eine Frage des Geschmacks. Die übliche Konvention besteht darin, Matrix-Vektor-Multiplikationen zu haben, d. H. Was Sie bevorzugen. Sie können von einem Modus zum anderen wechseln, indem Sie alles transponieren. Das heißt, wenn Ihre Multiplikation X*theta funktioniert, dann die transponierte Formel theta.' * X.'

In X*theta jeder der Reihen von X ist enthält die Daten (Kernel-Funktionswerte) eines Probenpunkt.

In der theta.'*X Konvention sind es die Spalten von X, die die Daten der Stichprobe enthalten.

Es kommt also immer auf den Kontext an, was als Zeile und was als Spaltenvektor definiert ist und wie sie in größeren Objekten oder Operationen zusammengefügt werden.