Wann sollte ich lineare neuronale Netze verwenden und wann nichtlinear?

-1

Ich benutze Feedforward, Gradientenabstieg backpropagation neuronalen Netzen.Wann sollte ich lineare neuronale Netze verwenden und wann nichtlinear?

Momentan habe ich nur mit nichtlinearen Netzwerken gearbeitet, in denen tanh eine Aktivierungsfunktion ist.

Ich habe mich gefragt. Welche Art von Aufgaben würden Sie einem neuronalen Netzwerk mit nichtlinearer Aktivierungsfunktion geben und welche Art von Aufgaben für lineare?

Ich weiß, dass Netzwerk mit linearen Aktivierungsfunktion verwendet werden, um lineare Probleme zu lösen. Was sind diese linearen Probleme? Irgendwelche Beispiele?

Danke!

Quelle

2016-04-07 Gyiove Sparkle

Sprechen Sie über eine lineare Neuronenaktivierungsfunktion? – BlackBear

Ja, ich werde den Beitrag aktualisieren. Entschuldigung, ich bin ziemlich neu und nicht ganz sicher, wie man Dinge richtig nennt. –

Haben Sie diese beiden versucht: 1. Kreuz-Validierung, 2. Stellen Sie die Frage auf Cross Validated? –

Ich würde nie sagen, da die Zusammensetzung der linearen Funktionen immer noch linear ist mit einem neuronalen Netzwerk mit linearen Aktivierungen ist nur ein Weg, lineare Regression zu erschweren.

Ob Sie ein lineares Modell oder etwas komplizierteres wählen, hängt von Ihnen ab und hängt von den Daten ab, die Sie haben. Dies ist (einer der Gründe), warum es üblich ist, während des Trainings Daten auszugeben und sie zur Validierung des Modells zu verwenden. Andere Möglichkeiten zum Testen von Modellen sind Residuenanalyse, Hypothesentest und so weiter.

Quelle

2016-04-07 16:11:16 BlackBear

Ich verwende neuronale Netze für die Mustererkennung. Das Problem ist, dass es ein Muster gibt und dann gibt es Hinweise darauf, dass Muster entstehen könnten, zum Beispiel eine Eingabe ist Wochentag (Montag usw.), andere ein Jahr Monat (Januar usw.) und dann dort sind 9 Eingaben für Daten selbst, wo Muster sich verstecken können und dann die Ausgabe, die sagt, was die Wahrscheinlichkeit ist, dass es dieses spezifische Muster ist, trainierte ich neuronales Netz zur Anerkennung. –

Da Sie eine Wahrscheinlichkeit möchten, verwenden Sie Sigmoid-Aktivierungen mindestens in der Ausgabeschicht (die nur ein Neuron haben sollte). Wenn das Muster zeitabhängig ist, sollten Sie wahrscheinlich zu einem LSTM-Netzwerk wechseln oder mindestens mehrere "Momentaufnahmen" (vorhanden und einige Monate in der Vergangenheit) als Eingabe für das Feedforward-Netzwerk bereitstellen – BlackBear

Wann sollte ich lineare neuronale Netze verwenden und wann nichtlinear?

Antwort

Verwandte Themen