Wie trainiert Word-Einbettungen in Tensorflow

Question

So habe ich das hier beschriebene Modell geändert Multi-Class-Textklassifikation anstelle einer binären Klasse Klassifizierung auszuführen. http://www.wildml.com/2015/12/implementing-a-cnn-for-text-classification-in-tensorflow/

Mein Modell überanstrengt sich selbst nach der Anwendung der L2-Regularisierung, so dass ich ein vortrainiertes word2vec-Modell verwenden möchte. Aber ich bin sehr neu & tief Lernen Tensorflow & ist nicht sicher, wo ich anfangen soll.

Code: https://github.com/dennybritz/cnn-text-classification-tf/blob/master/text_cnn.py#L27

Hier ist der relevante Code, den ich die Google vortrainiert word2vec Modell zu verwenden, ändern möchten:

 # Embedding layer 
    with tf.device('/cpu:0'), tf.name_scope("embedding"): 
     W = tf.Variable(
      tf.random_uniform([vocab_size, embedding_size], -1.0, 1.0), 
      name="W") 
     self.embedded_chars = tf.nn.embedding_lookup(W, self.input_x) 
     self.embedded_chars_expanded = tf.expand_dims(self.embedded_chars, -1) 

Es wird sehr hilfreich, wenn mir jemand zu, wie zeigen kann Kann ich das in den Code einbauen? Ich schaute auf den embedding_lookup doc, aber das scheint nicht die Informationen zu haben, nach denen ich suche.

Answer 1

Refere auf diese Links gilt:

• Using a pre-trained word embedding (word2vec or Glove) in TensorFlow
• Variables: Creation, Initialization, Saving, and Loading
• Tensorflow: How to restore a previously saved model (python)