Mittwoch, Januar 03, 2007

Hierarchical Temporal Memory

Man weiß schon erstaunlich viel über den Aufbau des Hirns und wie kognitive Prozesse ablaufen. Gerade auch in den letzten Jahren hat die Hirnforschung wieder erhebliche Fortschritte gemacht, wenn ich da z.B. das sehr interessante Buch Warum ich fühle, was du fühlst. Intuitive Kommunikation und das Geheimnis der Spiegelneurone vor einer Weile richtig verstanden habe.

Computer-basiertes Lernen, dass sich am Hirn-Aufbau orientiert, hat sich bisher eher mit der Simulation "sehr nah unten an der Biologie" beschäftigt in Form von neuronalen Netze.  Diese haben insgesamt doch recht enttäuschendem Ergebnisse gezeigt und lange nicht die vorhergesagten Erfolge vorweisen können. (Andere Ansätze wie Fuzzy Logic, Expertensysteme und Bayessche Filter rechne ich eher der Logik- und Statistik-Ecke zu. Erschlagende Suche wie beim Schach würde ich auch in eine extra Kategorie tun. Der Rest der konkreten Erfolge z.B. bei der Bilderkennung sind meines Wissens nach meist immer durch explizite Kodierung von Domain-Wissen erreicht worden und eben nicht durch generische Lern-Algorithmen, die anscheinend dem Menschen diese Fähigkeiten ermöglichen.)

Eine relativ neue Idee namens Hierarchical Temporal Memory (HTM) verfolgen seit kurzer Zeit interessanterweise die ehemaligen CEOs von Palm und Treo. Sie entfernen sich dabei von einer Repräsentation der zugrundeliegenden Biologie und versuchen eher, einige der grundsätzlichen Lern-Muster des Kortex' (Hierarchie, Detektieren von zeitlichen und räumlichen Sequenzen) nachzubilden. Das Video mit der Präsentation von Jeff Atkins dazu ist wirklich sehenswert; Google Video: Jeff Hawkins - Hierarchical Temporal Memory.
(gefunden bei http://www.reiss.demon.co.uk/neural/neural.htm).

Muss ich mal weiter verfolgen.

Vielleicht wird daraus mal wieder etwas substantieller Fortschritt ins Sachen Neuronale Netze und Co.?

Beim Fliegen war es doch ähnlich: man beobachtete halt schon die Vögel und fand dann aber irgendwann die Gesetzmäßigkeiten dahinter heraus. Man hat dann sehr von der Natur abstrahiert, auch aus der Not heraus. Man baut ja schon auch Flügel, aber eben ohne die hochkomplizierten Federn sondern einfach mit etwas Blech (oder Holz und Papier oder Verbundwerkstoffe oder Plaste oder ...) und statt Muskeln nimmt man Motoren. Es sind vielleicht eben nicht die Federn und Muskeln (hier: Neuronen), die das Fliegen (hier) ermöglichen, sondern die allgemeinen Prinzipien von Luftströmung, Kraft und Auftrieb (hier: zeitliche und räumliche Sequenzen, ...?). Könnten HTMs vielleicht neuer Anstoß in Richtung Konzentration auf die zugrundeliegenden Prinzipien sein?

Keine Kommentare: