Wie testen Sie eine Restricted Boltzmann Machine Implementierung?

Question

Ich entwickelte eine einfache binäre Restricted Boltzmann Machine Implementierung und jetzt möchte ich es testen. (Letztendlich werde ich es für einen DBN verwenden, aber ich würde gerne selbstständig testen).

Ich sah, dass mehrere Leute und Papiere über das Testen von MNIST-Datensätzen sprechen, aber ich habe keine Details darüber gefunden, wie das geht.

Muss ich eine neue Klassifizierungsschicht hinzufügen, die mit den versteckten Einheiten verbunden ist, und dann die Rückpropagation verwenden, um sie zu trainieren? Gibt es keinen anderen Weg?

Manche Menschen sind Plotten auch die Gewichte (wieder in MNIST), aber ich habe Probleme auf, wie Sie ein Gewicht dargestellt werden können, und was bedeutet das repräsentiert ...

Dank

Answer 1

Die „Tracking-Progress“ Abschnitt in der RBM-Tutorial auf deeplearning.net (http://deeplearning.net/tutorial/rbm.html) gibt sehr gute Führung:

1. Sie sicher, dass Proben aus dem RBM sehen aus wie die Trainingsdaten
2. (für Bilddaten) Überprüfen Sie, ob latente Maxima Variablenwerte aussehen Art wie glatt gabor Filterbänke
3. die pseudolikelihood verfolgen