TensorFlow: Warum müssen nicht-spärliche Elemente beim Analysieren eines TF-Beispiels aus TFRecord-Dateien einmal umgeformt werden?

Question

In der TensorFlow Dokumentation bei GitHub, gibt es diesen Code ein:

# Reshape non-sparse elements just once: 
for k in self._keys_to_features: 
    v = self._keys_to_features[k] 
    if isinstance(v, parsing_ops.FixedLenFeature): 
    example[k] = array_ops.reshape(example[k], v.shape) 

Ich frage mich, warum es notwendig ist, einen FixedLenFeature Tensor neu zu gestalten, nachdem es von einer TFRecord Datei Parsen.

In der Tat, was ist der Unterschied zwischen einem FixedLenFeature und VarLenFeature und was ist ihre Relevanz für einen Tensor? Ich lade Bilder in diesem Fall, also warum sollten sie alle als FixedLenFeature klassifiziert werden? Was ist ein Beispiel für ein VarLenFeature?

Answer 1

Tensoren sind auf der Festplatte ohne Forminformationen in einem Example protocol buffer format gespeichert (TFRecord-Dateien sind Sammlungen von Beispielen). Die Dokumentation in der Datei .proto beschreibt die Dinge ziemlich gut, aber der grundlegende Punkt ist, dass Tensor-Einträge in Reihen-Haupt-Reihenfolge ohne Forminformationen gespeichert werden, so dass diese bereitgestellt werden müssen, wenn die Tensoren gelesen werden. Beachten Sie, dass die Situation beim Speichern von Tensoren im Speicher ähnlich ist: Die Forminformationen werden separat gespeichert, und das Ändern eines Tensors ändert nur die Metadaten (Dinge wie Transponieren können auf der anderen Seite teuer sein).

VarLenFeatures sind Sequenzen wie Sätze, die sich als normale Tensoren nur schwer zusammensetzen lassen, da die resultierende Form zerlumpt wäre. Die parse_example documentation hat einige gute Beispiele. Bilder haben eine feste Länge, wenn sie einen Stapel von ihnen laden, haben sie alle die gleiche Form (z. B. sind sie alle 32x32 Pixel, so dass ein Stapel von 10 die Form 10x32x32 haben kann).