2017-11-16 1 views
1

Obwohl es viele Ressourcen gibt, wie man das rezeptive Feld (RF) von CNNs berechnet (zB http://fomoro.com/tools/receptive-fields), habe ich nichts über Skip-Verbindungen gefunden. In [1] erwähnen sie, dass Überspringen-Verbindungen die effektive RF kleiner machen, aber was passiert mit der theoretischen RF?Wie receptive Feld von Blöcken mit Skip-Verbindung zu berechnen?

Am Ende des Tages, Ich würde gerne wissen, wie man das rezeptive Feld eines Netzwerks mit vielen restlichen Blöcken berechnen.

Danke, Daniel

+0

[1] Luo, Wenjie, et al. "Das effektive rezeptive Feld in tiefen konvolutionellen neuronalen Netzen verstehen." Fortschritte in neuronalen Informationsverarbeitungssystemen. 2016. – dchevitarese

Antwort

0

TL; DR das rezeptive Feld berechnen alle Verbindungen überspringen zu ignorieren.

Zuerst, in einem allgemeinen Fall, haben wir zwei Zweige des Datenflusses - A und B. Sie können das rezeptive Feld für die Zweige A und B unabhängig berechnen und dann das Maximum nehmen, wenn die Zweige zusammenführen. (Der Grund dafür ist, dass Verzweigungen typischerweise über die Verkettung von Kanälen verschmelzen.)

Nun, wenn eine Verzweigung eine Skip-Verbindung ist und die andere nicht, die andere nicht, ergibt das größere rezeptive Feld. Wenn Sie viele Skip-Verbindungen haben, würde die längste Route (ohne Skip-Verbindungen) das maximale Empfangsfeld ergeben. Daher das Ergebnis in TL; DR.


Erste das Maximum unter Zweigen wird komplizierter, wenn anstelle einer einfachen Sprungverbindung, die Sie so etwas wie eine inception block haben. In diesen Fällen möchten Sie möglicherweise compute the receptive field directly by definition.