Keras Gewicht eines Modells größer als erwartet

Question

Ich bin in Ordnung, die Einführung v3-Modell auf cifar10 Datensatz. Nach dem Speichern ist die Größe des Modells 175 Mo, vor dem Training sind es etwa 90 Mo, also frage ich mich, warum das fein abgestimmte Modell größer ist? Wenn ich die Anzahl der Parameter der beiden Modelle anschaue, ist es fast gleich.

Original-Modell: Gesamt params: 23851784 Trainierbare params: 23817352 Nicht trainierbar params: 34.432

Fein abgestimmte Modell: Gesamt params: 21823274 Trainierbare params: 21788842 Nicht trainierbar params: 34.432

Hat jemand eine Idee dazu? Um das Modell zu speichern, verwende ich die Funktion ModelCheckpoint in einem Callback innerhalb der Fit-Generator-Funktion.

checkpoints = ModelCheckpoint(output+'-{epoch:02d}.hdf5', verbose=1, save_best_only=False, period=checkpoint) 
callbacks_list = [callback_tensorboard, checkpoints] 

# train 
model.fit_generator(train_generator, 
     steps_per_epoch=step_train, 
     epochs=epochs, 
     verbose=1, 
     validation_data=test_generator, 
     validation_steps=step_test, 
     callbacks=callbacks_list) 

Answer 1

standardmäßig ModelCheckpoint speichert alles über ein Modell, einschließlich der folgenden:

• Modell Architektur
• Gewichte
• Trainings Konfiguration wie Optimierer und Verlustfunktion
• Der Zustand des Optimierers , sodass Sie das Training direkt von einem Checkpoint aus fortsetzen können.

Wenn Sie einen Optimierer, den Zustand hält, wie ADAM oder RMSProp, wo ein gleitender Mittelwert für jeden Parameter gehalten, dann ist dieser Optimierer Zustand wird auch in die HDF5-Datei gespeichert, die endgültige Dateigröße um einen Faktor zu erhöhen definiert vom Optimierer.

Eine einfache Lösung besteht darin, entweder model.save_weights manuell zu verwenden, um nur die Gewichtungen zu speichern, oder den save_weights_only-Parameter in Ihrer Instanz ModelCheckpoint auf True zu setzen.