CNTK: Zug Einbettungsschicht initialisiert mit vortrainierten Einbettungen?

Question

Die Dokumentation der Schicht Embedding (https://www.cntk.ai/pythondocs/layerref.html#embedding) zeigt, dass sie mit vortrainierten Einbettungen unter Verwendung des Parameters weights initialisiert werden kann, aber diese Einbettungen werden während des Trainings nicht aktualisiert.

Gibt es eine Möglichkeit, die Schicht mit vortrainierten Einbettungen zu initialisieren und sie während des Trainings noch zu aktualisieren?

Wenn nicht, was ist der effizienteste Weg, Batch-Einbettungen mit einem Hot-Vektoren nachschlagen?

Answer 1

Ja, übergeben Sie einfach die Anfangswerte das init Argument stattdessen. Dadurch wird ein lernbarer Parameter erstellt, der mit dem übergebenen Array initialisiert wird.