Wissen
Dämmerschaltung: Wie die KI das Gehirn imitiert
Christian Mayr führt durch eine unscheinbare Nebentür in den Physik-Bau. Hinter einer weiteren Tür wartet ein halbdunkler Saal. Darin leuchten und blinken Displays. Sie hängen an mannshohen Kästen, deren Halbrund an die Brücke eines Raumschiffs erinnert. Hier stellt Mayrs Team von der TU Dresden den Supercomputer „Spinnaker2“ auf.
„Wir bauen hier selbst entwickelte Chips ein“, sagt der Elektrotechniker. Da die Prozessoren Arbeitsweisen des menschlichen Gehirns nachahmen, sollen sie wesentlich effizienter arbeiten als die derzeitige Künstliche Intelligenz: mehr Rechenkraft, ein Bruchteil des Energieverbrauchs.
Pro Jahr verbraucht ChatGPT so viel Strom wie eine mittelgroße Stadt
Im Moment erkauft sich KI wie der Sprachroboter ChatGPT seine spektakulären Erfolge mit gewaltigen Ressourcen. Und es könnte noch viel mehr Rechenleistung nötig werden. Forscher suchen deshalb nach Lösungen. Einige lassen sich vom menschlichen Gehirn inspirieren, denn das braucht nur etwa so viel Energie wie eine Glühbirne.
Die KI dagegen verbrät Unmengen an Strom. So fraß die Sprachmaschine GPT-3 der kalifornischen Firma OpenAI, auf dem ChatGPT basiert, für sein Training fast 1300 Megawattstunden elektrische Energie, schätzen Forscher von Google und der University of California in Berkeley.
Das entspricht dem jährlichen Stromverbrauch von etwa 500 durchschnittlichen deutschen Zwei-Personen-Haushalten. Für den Betrieb – das Beantworten von mehreren Milliarden Anfragen pro Jahr – braucht ChatGPT groben Kalkulationen von Wissenschaftlern zufolge sogar mehr als das 100-Fache davon, also etwa so viel wie eine mittelgroße Stadt.
Und das, obwohl die heutige KI durchaus eine gewisse Ähnlichkeit mit dem Gehirn hat. Bei der meistbenutzten Methode, dem „Deep Learning“, simulieren Computer stark vereinfacht die kleinsten Bausteine des Gehirns: die Nervenzellen samt den Verbindungen zwischen ihnen, den Synapsen.
Jede Nervenzelle ist Speicher und Prozessor zugleich
Doch um Energie zu sparen, genügt es nicht, ein neuronales Netz auf einer Gerätschaft zu simulieren, die für sehr verschiedene Anwendungen konzipiert ist. Die Arbeitsweise der Elektronik weicht zu sehr von der des Denkorgans ab.
Was im Computer vor allem Energie frisst, ist das Hin- und Herbewegen enormer Datenmengen. Ständig fließt Information vom Speicher zum Prozessor, um dort verarbeitet zu werden, und wieder zurück. In Großrechnern strömen Daten zudem zwischen den vielen einzelnen Computern hin und her, aus denen er sich zusammensetzt.
Ganz anders im Gehirn. Jede einzelne Nervenzelle ist Speicher und Prozessor zugleich. Sie verarbeitet die Informationen, die sie von anderen Neuronen erhält. Wie es das tut, kann sich durch Lernen verändern. Diese Änderung speichert das Neuron selbst, etwa indem es die Größe seiner Synapsen verändert oder neue Verbindungen knüpft.
Gehirn verarbeitet nur relevante Informationen
Dazu kommt, dass das Gehirn generell sparsam mit Information umgeht: Neuronen werden nur zugeschaltet, wenn unbedingt nötig. Nur ein kleiner Teil von ihnen ist jeweils aktiv, je nach Aufgabe. Dieses Faulheitsprinzip der Evolution macht sich Christian Mayr bei Spinnaker2 zunutze. „Das Gehirn verarbeitet nur relevante Informationen“, erklärt Mayr. Der Rest werde entfernt. Die Netzhaut etwa filtert den größten Teil der ins Auge gelangenden Daten heraus.
Bei Videokameras sei das auch möglich, versichert Mayr. Statt jedes Pixel jedes Einzelbildes zu verarbeiten, wie es die Künstliche Intelligenz mache, reiche es, nur die wenigen Pixel zu untersuchen, die sich von einem Bild zum nächsten verändert haben, also zum Beispiel nicht das Möbel im Hintergrund.
Die Chips, die Mayrs Team entwickelt hat, imitieren die Neigung des Gehirns, möglichst wenig zu tun: Die virtuellen Neuronen beginnen nur zu arbeiten, wenn sie ein Signal von anderen Neuronen empfangen, was längst nicht immer der Fall ist. Diese Arbeitsweise spare 90 Prozent Energie verglichen mit heutigen Supercomputern, betont Mayr.
Supercomputer für Echtzeit-KI
Supercomputer sind der Maßstab der Dresdner Forscher, denn Spinnaker2 soll einer werden. Wenn es klappt, könnten seine 50.000 Chips dank ihrer Energieeffizienz besonders große neuronale Netze simulieren. Fünfzig Billionen virtuelle Synapsen werden es womöglich, meint Mayr, ein Vielfaches der heute größten neuronalen Computernetze und etwa halb so viele Verbindungen wie im menschlichen Gehirn.
Besonders eigne sich Spinnaker2 für Echtzeit-KI, erklärt Mayr, bei der ständig große Datenmengen hereinkommen und verarbeitet werden müssen. In einer Smart City zum Beispiel erfassen Tausende Sensoren rund um die Uhr den Verkehr, die Luftbelastung oder den Energieverbrauch. „Auch Roboter könnten Spinnaker2-Chips als künstliches Gehirn bekommen“, sagt Mayr.
Die Dresdner Forscher und ein ausgegründetes Start-up arbeiten bereits mit möglichen Anwendern ihres Supercomputers zusammen. Darunter das US-amerikanische Pharmaunternehmen Merck, das mit Spinnaker2 die Suche nach Wirkstoffen beschleunigen will.
Die Energieeffizienz hat ihren Preis
Einen anderen Aspekt der sparsamen Datenverarbeitung des Gehirns simuliert Christoph Meinel. Der Informatiker vom Hasso-Plattner-Institut in Potsdam nimmt sich die elektrischen Impulse zum Vorbild, die Nervenzellen im Gehirn austauschen. „Diese bestehen jeweils nur aus einem Bit Information“, sagt Meinel. Die große Leistung ergibt sich aus der Fülle solcher Signale und der enormen Vernetzung der Nervenzellen untereinander über rund 100 Billionen Synapsen.
Simulierte Neuronen dagegen tauschen Signale von jeweils 32 Bit aus, was Zahlen mit acht Nachkommastellen entspricht. „Das muss auch weniger aufwendig gehen“, meint Meinel. Sein Team experimentiert mit sogenannten binären neuronalen Netzen, durch die, wie im Hirn, nur ein Bit pro Signal fließt.
„Diese Netze sind tausendmal energieeffizienter“, sagt Meinel. Allerdings hat das seinen Preis: Die Ergebnisse sind fünf Prozent ungenauer. Für eine KI, die zuverlässig Tumore erkennen soll, wäre das nicht akzeptabel. „Aber bei Anwendungen wie Suchanfragen oder Empfehlungssystemen in Online-Shops spielt dieser geringe Verlust an Präzision keine Rolle“, meint Meinel.
Speicher und Prozessor sollen verschmelzen
Das Potsdamer Team testet, ob die Spartechnik präzise genug für die Vorhersage von Wetterextremen ist. Solche Prognosen machen derzeit Großrechner, die mathematische Modelle berechnen. Trainiert wird die KI mit Satellitendaten aus 22 Jahren. Per Mustererkennung soll sie am Himmel drohende Ausnahmesituationen früher erkennen. Meinel: „Wir erforschen, wie wir eine bestmögliche Balance zwischen Energieverbrauch und Präzision hinbekommen.“
Ein weiterer Forschungsansatz besteht darin, Speicher und Prozessor schon im Gerät zu einer Einheit zu verschmelzen. Dazu experimentieren Experten mit sogenannten Memristoren. Das sind Bauelemente, deren elektrischer Widerstand von der Menge der elektrischen Ladung abhängt, die in der Vergangenheit durch sie geflossen ist. Sie erinnern sich also gewissermaßen an Erfahrungen, ähnlich wie Synapsen, die sich durch Lernen physisch verändern.
Ein Team um Abu Sebastian vom IBM-Forschungszentrum in Rüschlikon bei Zürich hat virusgroße Memristoren entwickelt und mehrere Millionen davon auf einem Chip miteinander vernetzt. Der Chip bildet ein neuronales Netz, das eine KI normalerweise nur virtuell simuliert, als physikalische Schaltung nach.
Zukunftsmusik
Bei einem Test erkannte und beschriftete der Chip Objekte auf Bildern. Allerdings arbeite er nicht energieeffizienter als die derzeit beste KI, räumt Sebastian ein. „Es ist ein erster Prototyp“, sagt der Physiker. Eine 100-fach bessere Energieeffizienz ist möglich, glaubt er. Indem sie die Memristoren weiter miniaturisieren und die restlichen Komponenten energiesparender machen, wollen die IBM-Forscher dieses Ziel binnen fünf Jahren erreichen.
Der Chip führt einen Algorithmus aus, der zuvor auf einem klassischen Rechner trainiert wurde, erklärt Sebastian. Die fertig entwickelte Variante könnte in mobilen Geräten genutzt werden, wo eine begrenzte Akkuladung nach einer verbrauchsarmen KI verlangt, etwa in autonomen Autos, Drohnen oder Smartphones.
Das Beispiel deutet auf den entscheidenden Vorteil von besonders sparsamer KI hin: Sie könnte Künstliche Intelligenz aus den aufwendigen Rechenzentren der großen Techunternehmen hinaus in den Alltag der batteriebetriebenen Geräte bringen.
Zukunftsmusik.
Info
Dieser Artikel stammt aus der RHEINPFALZ am SONNTAG, der Wochenzeitung der RHEINPFALZ. Digital lesen Sie die vollständige Ausgabe bereits samstags im E-Paper in der RHEINPFALZ-App (Android, iOS). Sonntags ab 5 Uhr erhalten Sie dort eine aktualisierte Version mit den Nachrichten vom Samstag aus der Pfalz, Deutschland und der Welt sowie besonders ausführlich vom Sport.