Neuromorphes Computing
Steigende Leistungsanforderungen durch künstliche Intelligenz sowohl bei Endgeräten als auch bei Hochleistungsrechenzentren führen zu einem immensen Anstieg des Stromverbrauchs. Effizienzsteigerungen durch Skalierung der Flächendichte stoßen an physikalische Grenzen. Heutige KI-Software ist zwar bereits deutlich effizienter geworden, wird aber in klassischen von-Neuman-Computerarchitekturen an Grenzen bei der Dateneingabe und -ausgabe eingeschränkt, welche mit der Trennung von Prozessor und Speicher zusammenhängen. Im Gegensatz dazu werden typische KI-Aufgaben von unserem Gehirn in einem Netzwerk von Neuronen und Synapsen effektiver und vor allem wesentlich energieeffizienter gelöst. Neuromorphes Computing verfolgt daher den Ansatz, die Eigenschaften des biologischen Gehirns für die Entwicklung von Computerhardware und -software nutzbar zu machen.
Von den Grundlagen in den Nutzen
Eine bedeutende Innovation auf Bauteilebene ist das memristive Bauteil, das im PGI in vielen Varianten von Schaltmechanismen und Materialkombinationen erforscht wird. Memrestive Bauteile können als einstellbarer elektrischer Widerstand mit permanentem Gedächtnis fungieren. Wichtig ist dabei die Schnittstelle zur Materialforschung, da die Bauteile ein Beispiel für den Übergang von potenziell nützlichen und verstandenen physikalischen Phänomenen im Materialsystem zu funktionsfähigen und potenziell industriell herstellbaren Bauteilen ermöglicht. Dieser Schritt wird von einer spezialisierten Messtechnik und Modellbildung begleitet, die es ermöglicht, komplexe Gedanken in kleinere Bestandteile aufzuteilen und gezieltere Optimierungsprozesse zu realisieren. Die Verwendung von Memristiven Zellen sowie speziellen Transistoren stellt eine Option dar, um Synapsen in künstlichen neuronalen Netzwerken direkt in die Hardware zu integrieren. Typische Paradigmen des neuromorphen Computings wie das Rechnen im Speicher können mit diesem Bauteil kompatibel und integriert mit moderner CMOS Halbleitertechnologie kompakt aufgebaut werden. In der nächsten Entwicklungsstufe werden Matrixstrukturen und funktionelle Einheiten als Schaltungsmikroarchitektur entworfen, um assoziatives Speichern, Speicherbasiertes Rechnen sowie künstliche neuronale Netzwerke zu ermöglichen, bis hin zu asynchronen, analog-digitalen gemischten oder eventbasierten Spiking Neural Networks (SNNs). Eine Software, die für diese Hardware optimiert ist, ermöglicht klassisches Maschinenlernen, KI-Anwendungen und sogar die Simulation des Gehirns, um somit das biologische Vorbild vollständig zu nutzen und den Kreis der Inspiration zu schließen. Hier ist auch längst die Schnittstelle zum Hardware-Software-Systembereich des PGI erreicht: Demonstrierte Edge Computing Lösungen, autonome KI Systeme und große NC-Module für das Supercomputing sind typische Forschungsziele in den Verbundprojekten und in der programmatischen Helmholtz-Forschung.
Infrastrukturen & Kooperationen
Wichtige Infrastrukturen und Kooperationen in Jülich auf diesem Gebiet sind:
- Intern bildet die Jülich Neuromorphic Computing Alliance (JUNCA) eine institutsübergreifende NC-Community mit wachsender gemeinsamer Wissensbasis und Möglichkeiten des Ideenaustauschs bis hin zur NC-Road-Map Erstellung und Projektierung.
- Die Helmholtz Nano Facility, das ER-C Elektronenmikroskopie sowie weitere Analytik sind essentiell für die materialforschungsbasierte Bauteilherstellung.
- das Zentralinstitut für Engineering, Elektronik und Analytik (ZEA; insbesondere ZEA-2), im Schaltungsdesign, CMOS-Layout, und der technischen Umsetzung zu elektronischen Gesamtsystemen
- das Institut für Neurowissenschaften und Medizin (INM), durch Erkenntnisse über die Funktionsweise des menschlichen Gehirns und (INM-6) als Nutzer von NC-Hardware für Simulations- und Emulationsrechnungen
- CMOS-Designteams (Complementary Metal Oxide Semiconductor) durch die Bereitstellung und Forschung an Materialien
- das Jülich Supercomputing Centre (JSC), durch Bereitstellen von Rechenleistung und Kenntnisse im Bereich des maschinellen Lernens
Extern arbeiten wir eng mit der RWTH Aachen, TU-Dresden, internationalen Forschungsgruppen und der regionalen Industrie zusammen, um neue Materialien und elektronische Bauelemente für neuroinspirierte Hardware zu entwickeln.
Unsere Ziele im Überblick:
- Die erstaunliche Effizienz und Rechenleistung biologischer Systeme sowohl auf Bauteilebene als auch auf den höheren Ebenen der Systemorganisation zu verstehen und auf die Konstruktion von Computern zu übertragen
- Über die jüngsten Entwicklungen im Bereich der künstlichen Intelligenz und des maschinellen Lernens hinausgehen, bei denen Erkenntnisse aus der Biologie lediglich in Algorithmen und Software einfließen, die zugrunde liegende Hardware jedoch unverändert bleibt
- Entdeckungen in den Neurowissenschaften und der Biologie in die Sprache der Rechner und Informationsverarbeitung (language of computation and information processing) übertragen; Entwicklung und Konstruktion von Bauelementen und Schaltungen, die durch das menschliche Gehirn inspiriert sind
- Schnittstelle mit der Materialforschung - Nutzung eines umfassenden physikalischen Verständnisses von Werkstoffen und Vorhersagemodellen zur Entwicklung dynamischer Geräte, die biologisch inspirierte Vorgänge mit geringem Energieaufwand unterstützen können.
- Ausrichtung neuromorpher Hardware auf bedeutende und herausfordernde Probleme in der Industrie (z. B. low power embedded/edge intelligence) und in der Wissenschaft (z. B. dynamische Simulationen des Gehirns)
- Erforschung neuartiger Rechenverfahren in großem Maßstab durch die Entwicklung neuromorpher Systeme - Schnittstelle zum Bereich Systems and Software, Schnittstelle zu ZEA-2- und CMOS-Designteams; außerdem Verbindung zu hybriden elektronisch-optischen/photonischen Systemen, um Engpässe bei der Chip-zu-Chip-Kommunikation und eine mögliche 3D-Integration zu bewältigen
- Inspiriert von den Neurowissenschaften und maschinellem Lernen sollen in Zusammenarbeit (INM, JSC) an die Eigenschaften neuromorpher Substrate angepasste, mathematisch begründete Algorithmen erforscht und entwickelt werden