[CompPhys]

CP-Home Vorherige Ü 9. Übung Nächste Ü

  1. Perzeptron

    • Als Modell für ein einzelnes Neuron wird das Perzeptron untersucht. In Abhängigkeit der N Eingangswerte tex2html_wrap_inline31 berechnet sich die Aktivität des Neurons tex2html_wrap_inline33 über
      displaymath7

    • Um dem Perzeptron einen Satz von M Mustern tex2html_wrap_inline37 beizubringen, werden die Kopplungsstärken tex2html_wrap_inline39 genau dann verändert, wenn die Vorhersage S des Perzeptrons nicht mit dem gewünschten Wert tex2html_wrap_inline43 übereinstimmt:
      displaymath13
      Dabei werden nacheinander alle Muster tex2html_wrap_inline45 angeboten.

    • Als Beispiel soll das Perzeptron eine ``Zeitreihe'' lernen. Dabei wird eine Folge von -1 oder +1 an den Eingängen des Perzeptrons vorbeigeschoben, und seine Aufgabe besteht in der Vorhersage der jeweils nächsten Eingabe.

      perzeptron.c | pinput.c
      folge1 | folge2 | folge3

  2. Feed-Forward-Netzwerke

    • Ein Feed-Forward-Netzwerk besteht aus mehreren Schichten der oben beschriebenen Neuronen. Ausgehend von vorgegebenen Eingangswerten tex2html_wrap_inline31 oder tex2html_wrap_inline49 berechnen sich die Aktivitäten der nächsten Schicht aus den Ausgabewerten der vorangegangenen Schicht.

    • Um einen Satz von Mustern tex2html_wrap_inline51 zu lernen, wird der in der Vorlesung erläuterte Error-Backpropagation Algorithmus benutzt.

    • Im ersten Beispiel soll das Netzwerk eine boolesche Funktion nachbilden, d.h. zu einem gegebenen Bitmuster als Eingangssignal der ersten Schicht sollen die Neuronen der letzten Schicht ein vorgeschriebenes Bitmuster ausgegeben (z.B. die Binärdarstellung der Summe der gesetzten Bits im Eingangsmuster).

      ffnboole.c

    • Im zweiten Beispiel lernt das Netzwerk eine bestimmte Klasse reeller Funktionen (z.B. f(x) = tex2html_wrap_inline53 ), die von freien Parametern abhängen. Erhält das Netz als Eingabe Funktionswerte zu den vorher festgelegten Koordinaten tex2html_wrap_inline55, so sagt es die passenden Funktionswerte an den Stellen tex2html_wrap_inline57 voraus. Das Netz schätzt also intern die freien Parameter und berechnet passende Ausgabewerte. Um dies zu ermöglichen, wird in der letzten Schicht die Aktivierungsfunktion tex2html_wrap_inline59 durch die identische Abbildung x ersetzt.

      ffnfunc.c


Zuletzt verändert: Alex Weiße