ForschungKomplexe Netze auf einem neuromorphen Computersystem optimieren

14. August 2020

Komplexe Netzwerke entwickeln eine Vielzahl besonderer Eigenschaften, wenn sie sich an einem „kritischen Punkt“ befinden. In diesem Zustand können Systeme ihr Verhalten schnell grundlegend ändern und zum Beispiel zwischen Ordnung und Chaos oder zwischen Stabilität und Instabilität wechseln. Dabei werden viele Recheneigenschaften optimiert. Aus diesem Grund wird in der Wissenschaft allgemein angenommen, dass Kritikalität für jede Berechnung in rückgekoppelten neuronalen Netzen optimal ist. Durch Kreisstrukturen verfügen diese Netzwerke über eine Art „Gedächtnis“ und können ähnlich der menschlichen Kognition Vorhersagen machen. Daher kommen sie in einer Reihe von Anwendungen der Künstlichen Intelligenz zum Einsatz.

Die Annahme, dass kritische Zustände tatsächlich optimal sind für alle Berechnungen in rückgekoppelten neuronalen Netzen, haben die Forscher aus Heidelberg und Göttingen nun auf den Prüfstand gestellt. Sie testeten dabei die Leistungsfähigkeit eines komplexen Netzes, das wie das Gehirn Informationen in kurzen elektrischen Impulsen, sogenannten Spikes, kodiert. Ihr Netzwerk lief auf einem am Kirchhoff-Institut für Physik entwickeltem Prototyp des BrainScaleS-2-Systems – einer neuromorphen Computerarchitektur der zweiten Generation, die auf elektronischen Modellen neuronaler Schaltkreise basiert und sich damit in Aufbau und Funktion am menschlichen Gehirn orientiert. Für die Umsetzung synaptischer Plastizität, die die Grundlage für Lernprozesse und Erinnerung bildet, wurde ein spezieller Prozessor direkt auf dem BrainScaleS-2-Chip verwendet. Hier veränderten die Wissenschaftler für unterschiedlich schwierige Aufgaben jeweils den Abstand zum kritischen Punkt und evaluierten die Leistungsfähigkeit des Netzwerks.

Mit ihren Untersuchungen konnten die Forscher zeigen, dass der Abstand zum kritischen Punkt auf dem Chip ohne Schwierigkeiten verändert werden kann. Dies geschieht, indem die Eingabestärke geändert wird. Dabei erkannten die Wissenschaftler auch einen klareren Zusammenhang zwischen Kritikalität und dem Abschneiden des Systems bei den Aufgaben, die ihm gestellt wurden. „Die allgemeine Annahme, dass der kritische Zustand für jede Berechnung vorteilhaft sei, hat sich jedoch nicht bestätigt“, sagt der Erstautor der Studie, Benjamin Cramer. Tatsächlich profitierten nur die komplexen, speicherintensiven Aufgaben von der Kritikalität, während einfache Aufgaben sogar darunter litten. „Die Forschungsergebnisse liefern damit ein genaueres Verständnis davon, wie der kollektive Netzwerkzustand auf unterschiedliche Aufgabenanforderungen abgestimmt werden sollte“, so der Heidelberger Physiker, der Mitglied in der Forschungsgruppe „Electronic Vision(s)“ am Kirchhoff-Institut für Physik ist.

Mechanistisch lässt sich der optimale Arbeitspunkt für jede Aufgabe sehr leicht einstellen, indem die mittlere Stärke des Eingangssignals angepasst wird, und zwar während der Anwendung einer sogenannten homeostatischen Plastizität. Die Theorie hinter diesem Mechanismus wurde vor kurzem in der Gruppe von Dr. Viola Priesemann am Göttinger Max-Planck-Institut für Dynamik und Selbstorganisation entwickelt. Die Anwendung dieser Plastizitätsregeln auf neuromorphe Hardware zeigt, dass sich damit die Netzwerkdynamik sehr gut auf unterschiedliche Abstände zur Kritikalität abstimmen lässt. Dadurch können Aufgaben unterschiedlicher Komplexität optimal gelöst werden. Die Forschungsergebnisse könnten nach den Worten von Benjamin Cramer auch erklären, warum biologische neuronale Netze nicht unbedingt an einem „kritischen Punkt operieren“, sondern vielmehr dynamisch in der Umgebung, in der sie ihre Recheneigenschaften an die jeweiligen Anforderungen anpassen können.