Navigation und Service

Neuromorphe Computer: Vielversprechende Kandidaten für effiziente Hirnsimulationen

Wissenschaftler nutzen Simulationen der Hirnaktivität, um Lernprozesse oder neurologische Erkrankungen wie Epilepsie und Alzheimer zu erforschen. Gleichzeitig sind neuronale Netzwerke die Basis für viele Anwendungen im Bereich der künstlichen Intelligenz, wie sie etwa auch zur Steuerung von Robotern verwendet wird.

Der Rechenaufwand für derartige Simulationen ist allerdings enorm. Momentan lässt sich gerade einmal 1 Prozent des menschlichen Gehirns auf den weltweit leistungsfähigsten Supercomputern simulieren. Zudem laufen die Prozesse in der Simulation deutlich langsamer als in der Realität. Ein herkömmlicher Superrechner braucht mehrere Minuten, um eine Sekunde biologischer Aktivität in einem solchen Netzwerk nachzubilden.

Um die Effizienz der Simulation neuronaler Netzwerke zu verbessern, arbeiten Wissenschaftler an sogenannten neuromorphen Computern, deren Hardware an den Aufbau des menschlichen Gehirns angelehnt ist. Eines der größten und am weitesten fortgeschrittenen Projekte ist das SpiNNaker-Projekt, das Forscher im Rahmen des europäischen Human Brain Projects weiterverfolgen.

Wissenschaftler des Forschungszentrums Jülich haben vor kurzem die bislang größte Simulation eines neuronalen Netzwerks auf einem SpiNNaker-System durchgeführt. Anschließend verglichen sie die Ergebnisse mit Resultaten, die sie auf einem konventionellen Rechner erzielt hatten. Für ihre Studie berechneten die Forscher die Aktivität in einem Netzwerk aus 80.000 Neuronen, die über 300 Millionen Synapsen untereinander verbunden sind. Von seiner Größe her entspricht das gerade einmal einem Millionstel des menschlichen Gehirns.

Im Interview berichtet Dr. Sacha van Albada vom Jülicher Institut für Neurowissenschaften und Medizin (INM-6) über die Ergebnisse ihrer Arbeit, die in der Fachzeitschrift "Frontiers in Neuroscience" erschienen ist.

Macht es für die Ergebnisse einen Unterschied, ob man ein neuronales Netz klassisch auf einem Superrechner oder mit dieser neuromorphen Hardware berechnet, die Sie getestet haben?

Grundsätzlich geben die Rechner leicht unterschiedliche Ergebnisse, schon alleine aufgrund der Unterschiede in der Repräsentation von Zahlen: sogenanntes floating-point auf klassischen Superrechnern, und fixed-point auf SpiNNaker. Das heißt, auf der heutigen Version von SpiNNaker gibt es eine feste Anzahl Stellen vor und nach dem Dezimalzeichen, und dadurch eine beschränkte Genauigkeit womit die Zahlen repräsentiert werden können. Außerdem zieht man auf unterschiedlichen Systemen meistens unterschiedliche Zufallszahlen, da es sehr ineffizient wäre, um die große Menge an Zufallszahlen auf einem System auszuschreiben und auf dem anderen System wieder einzulesen. Diese Unterschiede treten jedoch auch zwischen Simulationen auf einem einzelnen Rechner auf, und sind im naturwissenschaftlichen Sinne nicht wichtig. Wichtig sind uns nur die statistischen Eigenschaften und diese werden auch von den neuromorphen Simulationen gut wiedergegeben.

Was sind die Vorteile gegenüber normalen Superrechnern?

SpiNNaker ChipSpiNNaker Chip in Nahaufnahme
Copyright: Steve Furber (The University of Manchester)

SpiNNaker erlaubt es, Genauigkeit gegen einen geringeren Zeit- und Energieverbrauch auszutauschen. Wenn die Netzwerkaktivität relativ gering und asynchron ist, liefert SpiNNaker alle Spikes, welche die Signale zwischen Neuronen übertragen, ab. Wenn aber die Neurone auf einem Computerkern gleichzeitig viele Spikes bekommen, hat SpiNNaker die Möglichkeit, Spikes fallen zu lassen, sodass die Simulation weiterhin schnell durchläuft ─ auch wenn die dynamischen Gleichungen dadurch etwas weniger genau gelöst werden. Die Idee dahinter ist, dass die Funktion des Gehirns auch robust ist gegen verschiedene Arten von 'Rauschen' in der neuronalen Aktivität und Signalübertragung, worunter auch der Verlust von Spikes fällt. Eine an das Gehirn angepasste Kommunikation zwischen Computerkernen gewährt im Prinzip außerdem, dass die Kommunikation zwischen den Knoten des Rechners nur linear mit der Netzwerkgröße wächst, obwohl die Anzahl der möglichen Kommunikationswege quadratisch zunimmt. Dies macht SpiNNaker zu einem vielversprechenden Kandidaten, um in Zukunft noch viel größere Netzwerke schnell zu simulieren als wir dies bis jetzt getan haben.

Wie unterscheidet sich das SpiNNaker-System hinsichtlich Energieverbrauch und Geschwindigkeit von einem herkömmlichen Superrechner?

SpiNNaker Board auf einer Schreibtischplatte, zu sehen ist die Platine in einem durchsichtigen Gehäuse.SpiNNaker (SpiNN-5) Board
Copyright: Steve Furber (The University of Manchester)

Um Energieverbrauch und Geschwindigkeit zwischen Rechnern zu vergleichen, muss man zuerst sicherstellen, dass die Ergebnisse gleich akkurat sind. Aber wie man die Richtigkeit der Ergebnisse misst, hängt vom Netzwerk und Ziel der Simulation ab. In unserem Fall war es wichtig, dass die Feuerraten, Synchronisierung, und Irregularität der Spikes statistisch gleich waren. Unter dieser Bedingung waren die Geschwindigkeit und der Energieverbrauch beider Systeme in der Phase der Simulation, in der die neuronale Dynamik berechnet wird, ungefähr gleich. Je nach Parallelisierung der Simulationen mit dem NEST-Simulator, mit dem wir das Netzwerk auf einem konventionellen Rechner implementiert haben, war NEST langsamer oder schneller als SpiNNaker. Dass die beiden Systeme jetzt schon fast gleich effizient sind, heißt, dass mit der nächsten Generation von SpiNNaker-Chips das neuromorphe System den Super- oder Clusterrechner in seiner Effizienz übertreffen kann.

Zurzeit können wir auf SpiNNaker noch nicht so große Netzwerke simulieren wie auf einem Superrechner. In unserer aktuellen Studie haben wir aber einen Durchbruch erzielt. Unser Netzwerk hat den Großteil der Verbindungen pro Neuron erreicht; das heißt, größere Netzwerke haben nur noch beschränkt mehr Verbindungen pro Neuron, und kommen hiermit in den simulierbaren Bereich. Im Rahmen des europäischen Human Brain Projects ist das genau unser nächster Schritt: noch erheblich größere Netzwerke auf SpiNNaker zu portieren.

Was schätzen Sie, wann kommen die ersten neuromorphen Systeme auf den Markt?

Da muss man unterscheiden. Die experimentellen Systeme, die sehr nahe an der Biologie sind wie SpiNNaker, sind im Moment nicht kommerziell zu erwerben, sondern werden von den Entwicklern anderen Forschungsgruppen zur Verfügung gestellt. Andererseits gibt es spezialisiertere neuromorphe Systeme für Aufgaben wie Bilderkennung und Spracherkennung die schon auf dem Markt sind und, zum Beispiel, schon in manchen Smartphones verbaut sind.

Originalpublikation: van Albada Sacha J., Rowley Andrew G., Senk Johanna, Hopkins Michael, Schmidt Maximilian, Stokes Alan B., Lester David R., Diesmann Markus, Furber Steve B.
Performance Comparison of the Digital Neuromorphic Hardware SpiNNaker and the Neural Network Simulation Software NEST for a Full-Scale Cortical Microcircuit Model
Frontiers in Neuroscience (published online 23 May 2018), https://doi.org/10.3389/fnins.2018.00291

Tobias Schlößer