Erforderliche Voraussetzungen zum Lesen von Büchern über neuronale Netze (und deren Verständnis)

Question

Ich habe schon seit einiger Zeit versucht, etwas über Neuronale Netze zu lernen, und ich kann einige grundlegende Lernprogramme online verstehen, und ich konnte Teile durcharbeiten von Neural Computing - An Introduction aber selbst da, ich verglase viel Mathe, und es wird komplett über meinen Kopf nach den ersten paar Kapiteln. Selbst dann ist es das kleinste Buch "Mathe-y", das ich finden kann.

Es ist nicht, dass ich Angst vor der Mathematik oder irgendetwas habe, es ist nur ich habe nicht gelernt, was ich brauche, und ich bin mir nicht sicher, was ich genau brauche. Ich bin zur Zeit an meiner lokalen Universität eingeschrieben und arbeite daran, die Klassen nachzuholen, die ich in die MS in Comp eingeben muss. Sci-Programm (mein BA ist in Business/Info. Sys.) Und ich bin nicht sehr weit gekommen. Laut den kleinen Kursbeschreibungen der Universität werden NNs tatsächlich in einem Elektrotechnik-Kurs über Mustererkennung behandelt (mir erscheint es merkwürdig, dass dieser Kurs EE ist), der einige EE-Voraussetzungen hat, die ich nicht in den MS Comp bekommen muss . Sci. Programm.

Ich bin sehr interessiert an diesem Thema und weiß, dass ich irgendwann mehr darüber lernen will, das Problem ist, ich weiß nicht, was ich zuerst wissen muss. Hier sind Themen, die ich glaube, ich könnte brauchen, aber das ist nur Spekulation aus Unwissenheit:

• Einzel Variable Calculus (Ich habe Calc I und II hatte, so dass ich glaube, ich bin hier abgedeckt, nur der Vollständigkeit halber Auflistung)
• Multi Variable Calculus
• Lineare Algebra (ich dies formell noch nicht getroffen haben, kann aber tatsächlich viele der Konzepte aus verstehen, was ich habe es geschafft, auf Wikipedia und anderen Websites grok)
• Diskrete Mathematik (Another Ich habe nicht formell genommen, aber einen Teil von mir selbst gelernt
• Graph Theo ry
• Wahrscheinlichkeitstheorie
• Bayesian Statistik
• Circuit Design
• Andere Mathematik?
• Andere comp sci Themen

Offensichtlich gibt es eine neurowissenschaftliche Komponente auch hier, aber ich habe eigentlich keine Schwierigkeiten zu verstehen, Bücher hat, als sie darüber reden, wie zu NN angelegt, vor allem wegen seiner konzeptionellen

Kurz gesagt, kann jemand einen halbklaren Pfad anlegen, den man wirklich verstehen, lesen und schließlich Neuronale Netze implementieren muss?

Answer 1

Wenn Sie eine Liste von College-Kurse möchten, die Sie benötigen, um das Buch zu verstehen, hier ist sie:

• Calculus (I, II und III)
• Differentialgleichungen
• Lineare Algebra
• Statistik (oder eine gute Abdeckung von Bayes)

Allerdings habe ich in meinen NN Klassen ohne Diff just fine. Gl. und musste nur Konzepte nachschlagen, die ich noch nicht studiert hatte.

Sie können den Black Box-Ansatz wie oben beschrieben verwenden, aber wenn Sie wirklich die Mathematik und die Implementierung der Netzwerke verstehen möchten, müssen Sie lernen. Es wird eine steile Lernkurve sein, um die fortgeschritteneren Netzwerke zu verstehen, egal was Sie tun. Du kannst entweder die oben genannten Klassen zuerst nehmen, oder du kannst das Buch lesen und alles nachschlagen, was du nicht in Wikipedia findest, und dann von diesen Artikeln lesen, was auch immer du zu lesen hast, um sie zu verstehen usw. Du wirst feststellen, So oder so, Sie werden irgendwann diesen ersten Blick hinter sich lassen und die Dinge werden einfacher.

Es wäre gut, wenn Sie uns sagen, warum Sie neuronale Netze lernen wollen. Ich habe in meiner beruflichen Laufbahn keinen einzigen Nutzen für sie gefunden, obwohl ich kein Spieleentwickler oder Telekommunikationsentwickler bin.

Answer 2

Sie können "neuronale Netzwerke" nicht implementieren - Sie werden am Ende eine bestimmte Art von NN implementieren (z. B. Perzeptron). Es gibt viele verschiedene Arten von NNs, von denen jede für eine bestimmte Art von Aufgabe besser geeignet ist, und jede Art verwendet einige mathematische (und nicht nur mathematische) Konzepte, die spezifisch nur für diese spezielle Art sind. Zum Beispiel verwenden Boltzmann-Maschinen Konzepte der statistischen Thermodynamik (gegründet von Boltzmann).

Wie für Ihre Frage: Ohne ein klares Ziel gibt es keinen klaren (nicht einmal "halbklaren") Weg.

Answer 3

Ich zweite ZVRBA Idee, dass Sie sich ein klares Ziel setzen. Ein paar Leitfragen: a. Möchten Sie NNs als ein Modell für biologische Netzwerke oder als ein Computerwerkzeug betrachten? b. Sind Sie an ihrem Lernaspekt interessiert? Assoziativer Speicher? Signalverarbeitung? c. Willst du die komplexe Theorie verstehen? oder gerade genug, um Simulationssoftware zu schreiben?

Auch ich würde klein beginnen: implementieren Sie eine perceptron in Ihrer bevorzugten Programmiersprache. Die Mathematik ist nicht so schlecht, und es wird dich wahrscheinlich auf deine nächsten Schritte konzentrieren. Verwenden Sie ein binäres Klassifizierungsdatenset, z. B. UCI's tic-tac-toe endgame.

Answer 4

Für grundlegende, rück prorogation neuronale Netze, die wichtigsten Dinge sind:

• Calculus

• Lineare Algebra

• Grund Statistik/Wahrscheinlichkeits

Wenn Sie nur nach spezifischeren Themen suchen (Sie sind unterstützen Sie bereits nahm Calc, also werde ich das raus) verlassen, sind hier einige Themen, die nützlich sein zu wissen, wenn auch nicht unbedingt unmittelbar ein neuronales Netzwerk zum Aufbau:

• Lösung linearer Gleichungssysteme (Sie würden dies in einem Linear Algebra Kurs)

• Least Squares Regression lernen

• Optimierungstheorie

Sie sollten erkennen, dass es mehrere andere Methoden gibt, die verwendet werden können, um bestimmte Probleme zusammen mit neuronalen Netzen zu lösen.

Oft ist der schwierigste Aspekt der Problemlösung die Bestimmung der besten zu verwendenden Methode.