2017-05-24 3 views
8

Ich bin neu in RNN, und ich versuche, die Besonderheiten der LSTM Zellen, um herauszufinden, und sie sind gegenüber TensorFlow: Colah GitHub enter image description here Hat die GitHub Beispiel der Website verwendet die gleiche LSTM-Zelle im Vergleich zu TensorFlow? Die einzige Sache, die ich auf der TensorFlow-Site bekam, war, dass grundlegende LSTM-Zellen die folgende Architektur verwenden: Paper Wenn es die gleiche Architektur ist, kann ich die Zahlen für eine LSTM-Zelle manuell berechnen und sehen, ob es übereinstimmt.Recurrent Neural Network (RNN) - Ebene vergessen, und TensorFlow

Auch wenn wir eine grundlegende LSTM Zelle in tensorflow gesetzt, dauert es in einem num_units nach: TensorFlow documentation

tf.nn.rnn_cell.GRUCell.__init__(num_units, input_size=None, activation=tanh) 

Ist diese Anzahl von verstecktem Zustand (h_t)) und Zellzustand (C_T)?

Laut der GitHub-Website wird die Anzahl der Zellenzustände und versteckten Zustände nicht erwähnt. Ich nehme an, sie müssen die gleiche Nummer sein?

+0

Es tut mir leid, aber tiefes Lernen ist nicht etwas, dem du ein Tutorial folgen kannst und du wirst ein Guru. Das ist meine Erfahrung gerade jetzt, Monate zu studieren wirklich schwer zu verstehen, weil sie komplex sind. Also, wenn Sie wirklich neu sind und verstehen wollen, wie sie funktionieren, empfehle ich Ihnen Udemy Kurse von Instruktoren: Lazy Programmer und SuperDataScience. Wenn Sie nur an einfachem Code interessiert sind, können Sie es mit Keras versuchen, es ist ein High-Level-Framework, das auf Tensorflow oder Theano arbeitet. –

+0

Ist Ihre Frage zu GRU oder LSTM? Eine GRU-Zelle hat einen einzelnen Zustand, der die gleiche Größe der Ausgabe hat, während eine LSTM-Zelle einen zweiteiligen Zustand mit Komponenten gleicher Größe hat. – jasekp

Antwort

4

Die Implementierung sieht genauso aus wie GRUCell Klasse doc zeigt auch das gleiche Papier (speziell für gated) mit link in Colahs Artikel gegeben. Parameter num_units ist die Anzahl der Zellen (unter der Annahme, dass es sich um die ausgeblendete Schicht handelt) output_size fällige Eigenschaft definition.

+0

Was meinst du mit gated? Ich bin neu bei RNNs. Wenn es lange zu erklären ist, können Sie mir einen Link zur Verfügung stellen, der "gated" erklärt? Danke – user1157751

+0

Hallo, Sie haben GRUCell als Beispiel angegeben, was 'gated recurrent' bedeutet. Colahs Artikel erwähnt zum ersten Mal Zelle und versteckten Zustand, während er den GRU-Begriff erklärt. – hurturk

+0

Okay, ich denke, ich muss noch verstehen, was GRU ist. Ich werde es später herausfinden, vielen Dank für deine Hilfe! – user1157751

Verwandte Themen