KI und Gesellschaft 
Kaiserslauterer Informatikerin Zweig: „Denkt kritisch!“
Frau Zweig, Sie sind so etwas wie die KI-Erklärerin der Nation. Warum ist es Ihnen wichtig, den Bürgern die komplexe Materie näher zu bringen?
Vielleicht hängt es damit zusammen, dass ich in einem Journalistenhaushalt aufgewachsen bin. Mein Vater arbeitete für das Magazin „Stern“, meine Mutter für „Die Zeit“. Ich bin mit dem Selbstverständnis aufgewachsen, dass man mit anderen Menschen den Teil der Welt teilt, den man selbst versteht. Mein Vater war 30 Jahre lang Auslandskorrespondent, unter anderem in Tibet, Russland und Äthiopien. Er hat über Kriege und Hungersnöte berichtet, aber den Lesern auch Kulturen nach Hause gebracht, zu denen wir damals kaum Kontakt hatten. Für viele Menschen ist heute Künstliche Intelligenz ein Buch mit sieben Siegeln. Wenn dann Marketingversprechen der Hersteller von Sprachmodellen wie ChatGPT oder Gemini hinzukommen, die weit darüber hinausgehen, was die Software tatsächlich leisten kann, dann springt mein Ungerechtigkeitsgefühl an. Die Nutzer von Chatbots und KI-Agenten sollen eine Chance bekommen, selbst zu ermessen, was diese Softwaretechnologie kann und was nicht – dazu möchte ich beitragen.
Sie tauschen sich intensiv mit Politik, Wirtschaft und Medien aus. Wie würden Sie das Stimmungsbild in Deutschland beim Thema KI beschreiben?
In vielen Unternehmen herrscht ein enormer Druck, die neue Technologie – insbesondere Chatbots und die auf Sprachmodellen basierenden agentischen KI-Systeme – möglichst schnell einzusetzen. Dahinter steht die Hoffnung, dass all die großen Versprechungen tatsächlich wahr sind. Diese KI-Systeme werden damit beworben, dass sie denken und auch selbstständig für uns handeln können. Ich beobachte, dass große Firmen beim Thema KI viel Geld in die Hand nehmen, um Dinge auszuprobieren. Kleine und mittlere Unternehmen sind dagegen noch zu zögerlich, dort überwiegen die Sorgen vor der neuen Technik, viele haben sich noch nicht ausreichend damit beschäftigt. Mein Rat an alle Unternehmen ist, sich beraten zu lassen, wo KI in Form von sehr verschiedenen Softwaresystemen nützlich sein kann, wobei ich Sprachmodelle eher kritisch sehe. Ganz klar ist: Jedes Unternehmen muss sich jetzt mit KI in ihrer vollen Breite auseinandersetzen.
In den Medien reicht die Bandbreite der Berichterstattung von „KI kann das Klima retten“ bis „KI wird uns alle vernichten“. Überschätzen wir die KI?
Ich glaube, wir überschätzen und unterschätzen sie gleichzeitig. Die Sorge vor einer Artificial General Intelligence (AGI) – also einer Maschine, die so intelligent ist wie wir, eigene Ziele verfolgt und sich selbstständig in der Welt bewegt – halte ich im Moment für überblasen. Das ist aus meiner Sicht reines Marketing. Insbesondere Sprachmodelle, wie wir sie derzeit haben, werden nicht der Weg zu AGI sein. Dafür bedarf es einer anderen Art von Software-Architektur, aber es gibt sehr gute Leute, die daran arbeiten. Es existieren aber auch Gefahren, die wir alle unterschätzen. Dazu gehören schlecht gemachte KI-Systeme. Das zweite Risiko besteht aus gut gemachten KI-Systemen, die aber an der falschen Stelle eingesetzt werden und dort für Probleme sorgen. Die dritte Gefahr sehe ich in der bösartigen Nutzung von KI-Systemen, etwa um antidemokratische Meinungen zu verteilen oder um Menschen ihrer Altersvorsorge zu berauben. Da gibt es leider unendlich viele Szenarien.
Was sagt das über unseren Umgang mit KI aus?
Der deutsch-amerikanische Informatikpionier Joseph Weizenbaum hat einmal gesagt, wenn die Gesellschaft einer Technologie etwas völlig Falsches zuschreibt, ist es unvermeidlich, dass ihre Entscheidungen zur Nutzung der Technologie fehlgeleitet und oft auch falsch sein werden. Ein Beispiel sind KI-Systeme, die menschliches Handeln bewerten – etwa bei der Suche nach einem passenden Jobkandidaten. Sicher können uns Maschinen dabei helfen, die besten und schlechtesten Bewerber zu sortieren. Das geht gut, weil das untere Drittel es vielleicht nicht schafft, ein PDF statt sechs einzelner Dateien hochzuladen. Trotzdem können und dürfen wir Entscheidungen, die das Leben von Menschen beeinflussen, nicht Maschinen überlassen. Gerade bei Entscheidungen über Menschen gibt es viele Urteile zu treffen, die sich mit noch so vielen Regeln nicht aufschreiben lassen. Kant spräche hier von der notwendigen Urteilskraft, die Maschinen heute noch nicht haben.
Was wäre denn eine bessere Nutzung?
KI-Systeme sollten uns bei Dingen helfen, die wir faktisch nachprüfen können. Denken Sie etwa an den langjährigen VW-Patriarchen Ferdinand Piëch, der bei seinen Autos am liebsten das Spaltmaß selbst überprüfte, also Abstände zwischen benachbarten Autoteilen. Das ist etwas, was man sehr gut messen kann, auch mit Videosystemen. Insbesondere in Deutschland, wo wir viele Produktionsdaten haben, sollten wir uns in erster Linie mit KI-Systemen beschäftigen, die solche Dinge schneller und günstiger als Menschen erledigen können. Stattdessen wird hierzulande viel gejammert, dass die Regulierung die Unternehmen so stark einschränke. Aber Grenzen gibt es ja vor allem dort, wo es um Bewertungen geht, wo es um Entscheidungen über Menschen geht.
Was kann passieren, wenn wir Software zu viel zutrauen und sie dort einsetzen, wo sie nicht zuverlässig arbeiten kann?
Bei Erstsemesterveranstaltungen frage ich manchmal, wer jemanden kennt, der Chatbots wie ChatGPT auch für persönliche Probleme nutzt. Da gehen immer alle Hände hoch. Das ist ein denkbar schlechter Einsatz, weil Chatbots so entwickelt werden, dass sie Menschen erst einmal zustimmen – das nennt man im Englischen Sycophancy, auf gut Deutsch: Einschleimen. Und das tut die Maschine auch dann, wenn man etwas Haarsträubendes sagt. Schließlich sollen wir uns, wenn es nach den Herstellern geht, möglichst lange mit der Maschine beschäftigen. In der jüngsten Vergangenheit haben wir leider gesehen, dass Sprachmodelle einsamen Menschen, die vielleicht auch psychische Probleme haben, oft nicht helfen, sondern eher radikalisieren können. In der Folge kam es zu Suiziden und Waffengewalt.
Wofür verwenden Sie Sprachmodelle?
Ich nutze Sprachmodelle nur dann, wenn ich das Ergebnis überprüfen kann. Etwa, wenn mir ein Begriff fehlt, den ich aber assoziativ beschreiben kann. Sie kennen das sicher, wenn Sie ChatGPT fragen, wie heißt noch mal diese Sängerin aus Australien, sie ist ziemlich klein, dann spuckt einem das Programm mit hoher Sicherheit den Namen Kylie Minogue aus. Sprachmodelle helfen auch dann, wenn man sich etwas Neues aneignen möchte, um erst einmal grundlegende Begriffe kennenzulernen. Ich möchte beispielsweise mehr über einen bestimmten Themenbereich der Philosophie lernen, weiß aber nicht, welche Personen sich mit dem Thema auseinandersetzt haben. Auch hier funktionieren Sprachmodelle sehr gut, weil sie mit unklaren Gedanken assoziativ klarkommen und dann meistens in der Lage sind Hauptakteure zu benennen. Anschließend gehe ich aber auf Wikipedia oder die Stanford Encyclopedia of Philosophy und hole mir dort echtes Wissen. Manchmal nutze ich Sprachmodelle auch als Übersetzungshilfe, aber nur für Sprachen, die ich selber spreche.
In Ihrem aktuellen Buch „Weiß die KI, dass sie nichts weiß?“ schreiben Sie, dass KI-Sprachmodelle nicht zum Faktenchecken geeignet sein. Warum nicht?
Antworten auf Fragen nach Fakten sind mit Vorsicht zu genießen und sollten primär dann der Maschine überlassen werden, wenn der Mensch diese leicht nachprüfen kann. Grund dafür sind Konfabulationen, also das Erfinden von Inhalten, die bei Sprachmodellen vorkommen können. Nehmen wir an, wir beide haben gemeinsam einen Text geschrieben. Statt der Maschine das Faktenchecken zu überlassen, wäre es klüger, wenn wir uns von ihr einen neuen Blick auf unsere Arbeit geben lassen. Ich glaube, dass die Maschine einem helfen kann, eine andere Perspektive auf den eigenen Text zu bekommen.
Sie haben 2013 den Studiengang Sozioinformatik an der TU Kaiserslautern gegründet. Warum ist es wichtig, die Brücke zwischen Algorithmen und Gesellschaft zu schlagen?
Die Grundüberzeugung der Sozioinformatik ist, immer mitzudenken, in welchem sozialen Prozess eine Software verwendet wird. Wer kann das System verändern, wer ist Nutznießer, wer könnte etwas erleiden? Welche Anreize haben diese Personen, kann es sein, dass diese Software für etwas ganz anderes genutzt wird als ursprünglich gedacht? Diese Technikfolgenabschätzung ist etwas, was in bisherigen Informatikstudiengängen nicht so sehr im Fokus stand. Das ist wichtig, weil wir ständig sehen, dass eine neue Software Probleme lösen, aber auch neue schaffen kann. Wir glauben, dass man einen Teil der geschaffenen Probleme im Vorfeld verhindern kann, wenn man stärker darauf achtet, wie Mensch und Maschine interagieren.
Was für Fähigkeiten brauchen Menschen, um mit KI umgehen zu können?
Das ist gar nichts Neues: Kritisches Denken ist enorm wichtig! Was Sprachmodelle erzeugen, muss ständig vom Menschen überprüft werden. Denn die Inhalte sind zwar oft sehr gut, aber eben nicht zuverlässig. Und das ist bei der Maschine schwerer zu erkennen als beim Menschen: Wenn ich Ihnen etwas sage, von dem ich wenig Ahnung habe, dann merken Sie das sofort. Denn ich fange an zu stottern, ich werde vielleicht rot, ich mache mehr ähm-Pausen. Aber die Maschine schreibt immer mit dem Brustton der Überzeugung und das heißt, diese Überprüfung ist anstrengend und bedarf viel eigenen Wissens.
Was bedeutet das für heutige Berufseinsteiger?
Früher sah der klassische Berufseinstieg beispielsweise in Verwaltungen so aus, dass sich junge Menschen überwiegend mit den Standardfällen herumschlagen mussten, die regelhaft gelöst werden konnten. Heute erledigen das in den meisten Fällen Maschinen. Das hat zur Folge, dass Jobanfänger heute sehr viel schneller ein Fachwissen und eine damit einhergehende Urteilskraft entwickeln müssen, als es vor dem Einsatz von KI in Unternehmen der Fall war. Ich glaube aber, dass wir Ausbilder mit dieser Erkenntnis gut arbeiten können.
Wie soll das funktionieren?
Der Nachwuchs in den Unternehmen könnte künftig zum Beispiel dafür verantwortlich sein, die KI-Systeme regelmäßig zu kontrollieren – etwas, das sowieso geschehen muss. Dazu werden sogenannte Benchmarkdatensets erstellt. Das sind Zusammenstellungen von Aufgaben, die besonders schwierig sind. Durch die Beschäftigung mit solchen Fällen und die Auswahl von Testfällen für die Maschinen lernen Berufseinsteiger auch viel schneller, wie sich ein typischer Standardfall von Fällen unterscheidet, die vielleicht nur auf den ersten Blick wie einer erscheinen. Aber daraus folgt auch, liebe Schüler und Studierende, dass die Maschine euch vielleicht bis zum dritten, vierten Fachsemester helfen kann. Aber wenn man Chatbots wie ChatGPT zur Aufgabenlösung nutzt, hat man leider kein eigenes Faktenwissen aufgebaut. Und ihr als ganze Generation braucht mehr Wissen und nicht weniger, weil ihr in den Firmen schon mit einer ganz anderen Art von Fachexpertise einsteigen müsst. Ich persönlich finde diese Perspektive zwar immer noch etwas einschüchternd, aber es heißt eben, dass KI auch weiterhin Menschen nicht ersetzen kann.
Info
Dieser Artikel stammt aus der RHEINPFALZ am SONNTAG, der Wochenzeitung der RHEINPFALZ. Digital lesen Sie die vollständige Ausgabe bereits samstags im E-Paper in der RHEINPFALZ-App (Android, iOS). Sonntags ab 5 Uhr erhalten Sie dort eine aktualisierte Version mit den Nachrichten vom Samstag aus der Pfalz, Deutschland und der Welt sowie besonders ausführlich vom Sport.