Saarbrücken 
Saar-Forscher formulieren KI-Grundregeln
Künstliche Intelligenz (kurz: KI oder auch englisch „AI“) kann das Leben vereinfachen. Komplizierte oder sonst langwierige Aufgaben am Computer werden mit einem Mausklick von ganz alleine erledigt, die böse Mail an den Chef wird schnell in einen freundlichen Ton umformuliert oder aber die passende Notiz aus den Tiefen des Handys herausgefischt. KI kann aber auch Negatives, womöglich sogar Gefährliches bringen, etwa das gezielte Verbreiten von sogenannten „Fake News“. Und klar ist: KI macht Fehler, manchmal sehr gravierende.
„Damit die Entscheidungen solcher KI-Systeme möglichst gerecht sind, hat die Europäische Kommission kürzlich den „AI Act“, das Gesetz über Künstliche Intelligenz, erlassen“, schreibt die Pressestelle der Universität des Saarlandes. In dem Gesetzestext ist verankert, dass „Hochrisiko-KI-Systeme“, die einen großen Einfluss auf das Leben von Menschen haben können, auch von Menschen „wirksam beaufsichtigt“ werden können. Wie genau das abläuft, wurde im „AI Act“ nicht genau bestimmt. Um das zu erledigen, wurde nun eine Forschergruppe, verteilt auf Wissenschaftsstandorte, in ganz Deutschland eingesetzt – darunter auch Forscher der Universität des Saarlandes.
Forscher fordern „Not-Aus-Schalter“
„Im Grunde genommen haben wir vier Kriterien definiert, die ein Mensch erfüllen muss, um diese wirksame Aufsicht eines KI-Systems zu gewährleisten“, so die Saar-Forscherin und Erstautorin Sarah Sterz. Zunächst muss ein Mensch in das KI-System eingreifen und dessen Entscheidungen übernehmen können. Also wie eine Art „Not-Aus-Schalter“. Der Mensch muss aber zweitens das System und dessen Funktion verstehen und Konsequenzen der eigenen Interventionen erkennen können. Drittens braucht es laut Sterz genügend Selbstkontrolle. „Man sollte zum Beispiel nicht betrunken, übermüdet oder gelangweilt sein. Wer an einem Tag schon 200 Bewerbungen gesichtet hat, macht bei 201. Bewerbung möglicherweise Fehler. Nach diesem Kriterium wäre er also zu einer wirksamen Aufsicht über ein KI-System nicht mehr in der Lage“, sagt Sterz. Zuletzt sind die eigenen Absichten der KI-Aufsichtsperson wichtig. „Superschurken etwa wären demnach ungeeignet, KI-System zu beaufsichtigen, selbst wenn sie verstehen, wie sie funktionieren.“
Die vier Grundsätze von Sterz und ihren Forscher-Kollegen soll im September bei einer Konferenz des Europäischen Amtes für Künstliche Intelligenz diskutiert werden.