KI und Kriminalität 
Wie die Polizei gegen Deepfakes kämpft
Die halbe Welt hat geschmunzelt über Papst Franziskus im fluffigen weißen Daunenmantel. Das Foto war das bis heute vielleicht prominenteste Beispiel dafür, wie schön man mit KI Bilder fälschen kann. Wenn vermeintlich Günter Jauch oder Christian Sievers in sozialen Netzwerken ihre besten Aktientipps teilen, wird es für Menschen mit geringen Medienkompetenzen schon kritischer. Doch wenn Elon Musks KI mit dem Chatbot Grok Frauen zu Tausenden auszieht, hört der Spaß auf. Da man solche Fälschungen im Handumdrehen anfertigen und zu kriminellen Zwecken nutzen kann – beispielsweise für Erpressungen – braucht die Polizei ein schnelles Werkzeug, um sie zu entlarven.
„Wenn ein junger Mann mit seiner Kalaschnikow posiert oder ein anderer seine Marihuana-Plantage hochlädt, müssen wir schnell wissen, ob das Fake ist oder ob wir besser eine Hausdurchsuchung machen“, sagt Jens Böhle, Abteilungsleiter „Cybercrime“ im Landeskriminalamt. Bei dieser Entscheidung wird künftig der Deepfake-Detector helfen. Das ist ein ebenfalls KI-gestütztes Programm, das täuschend echt gemachte Fälschungen im Netz erkennen kann. Am Freitag ist das neue Hilfsmittel für die Polizei in einem Mainzer Gewerbegebiet vorgestellt worden. Dort haben Landeskriminalamt und das Polizeipräsidium Einsatz, Logistik, Technik ihr Digikorp eingerichtet.
Daten zu sensibel für die Cloud
Das klingt nach einem militärischen Verband, aber eigentlich steht das Kunstwort für Digitalisierungskooperation Polizei Rheinland-Pfalz. Die Polizei hat in einem unscheinbaren Flachdachbau eine nette Sechs-Zimmer-Wohnung eingerichtet, deren Räume nach den Großlandschaften des Bundeslandes benannt sind. Im größten Zimmer „Pfalz“ stehen gut ausgestattete Computer-Arbeitsplätze mit Großbildschirmen beieinander, im „Westerwald“ kann man bei Tischtennis den Kopf freibekommen und im „Mittelrhein“ in einer Sofa-Landschaft chillen.
„Hier entstehen Lösungen für die Praxis“, sagt Innenminister Michael Ebling (SPD) zu den neuen Räumen, die ein kreatives Umfeld schaffen und dazu beitragen sollen, gute Köpfe für schwierige Aufgaben zu finden und zu halten. Seit April 2025 haben hier Computerspezialisten aus verschiedenen Abteilungen der Polizei ihr Wissen zusammengeworfen, um ein eigenes Programm zum Erkennen von Deepfakes zu bauen. Ja, das hätte man auch kaufen können, sagt Ebling, aber sehr oft gehe es um sehr sensible Daten, die die Ermittler nicht in amerikanischen Clouds ablegen wollen. Immerhin haben die USA schon 2018 den Clouds Act erlassen, ein Gesetz, das es Behörden erlaubt, auf im Internet gespeicherte Daten zuzugreifen.
Praxistest in der Pfalz
Im März geht daher ein selbst entwickeltes Programm in den Pilotbetrieb beim Polizeipräsidium Rheinpfalz in Ludwigshafen, um Ermittlern dabei zu helfen, echte von gefälschten Bildern zu unterscheiden. Noch funktioniert das nur bei Fotos, nicht bei Videos, aber dafür offenbar ganz gut: Bei einem Wettbewerb von 54 kriminaltechnischen Laboratorien aus 30 Ländern haben die Mainzer schon im Frühjahr 2025, also noch in der Frühphase ihrer Entwicklung, den zweiten Platz belegt. So spricht manches dafür, dass ihr Werk in naher Zukunft auch bei anderen Länderpolizeien und bei der Bundespolizei zum Einsatz kommt. Die Eigenentwicklung hat zwar Geld gekostet, spart aber auch Lizenzgebühren.
Laut Ebling geht es oft um sexualisierte Gewalt oder politischen Extremismus. Und das mit riesigen Datenmengen und unter hohem Zeitdruck, wie Mario Germano sagt, der Chef des Landeskriminalamtes. Er und Philipp Römer, der Präsident des Polizeipräsidiums Einsatz, Logistik und Technik, betonen denn auch, dass sie ihre Kräfte bündeln und neue Strukturen schaffen müssen, um mit der rasend schnellen Entwicklung bei der KI Schritt halten zu können.
Behörden sind alarmiert
Mit einem kleinen Quiz hat Böhle demonstriert, dass das neue Programm Deepfakes schneller und sicherer erkennt, als Menschen das können. Innenminister, LKA-Chef und Polizeipräsident stellten ein Rateteam, das bei dreimal vier Bildern entscheiden musste, ob ein Foto echt oder gefälscht ist. Sie waren gut darin, aber nicht gut genug. Und 81 Fotos in wenigen Sekunden zu analysieren, wie dann noch vorgeführt, hätten sie nicht geschafft.
Deepfakes sind im Übrigen kein (schlechter) Scherz, und sie fallen je nach Verwendungszweck auch nicht unter die Kunstfreiheit. In der Kriminalstatistik werden Fälle mit Verwendung solcher Bild-, Ton- oder Filmfälschungen noch nicht eigens ausgewiesen. Es gibt daher auch noch keine Fallzahlen. „Das wird unser Praxistest zeigen“, sagt Böhler. Was es gibt, sind Befürchtungen, dass mit KI erzeugte Fälschungen nicht nur dazu genutzt werden können, Enkeltrick und Schockanrufe noch überzeugender zu gestalten, sondern bald auch dabei helfen könnten, „Fernidentifikationssysteme zu überwinden“ (also die Gesichtserkennung als Zugang zu sensiblen Daten). Davor warnt das Bundesamt für die Sicherheit in der Informationstechnik ebenso wie vor dem Einsatz beim „CEO-Fraud“. Das ist der Fachbegriff dafür, sich als Chef oder wichtiger Geschäftspartner auszugeben und die Überweisung von Geld auf fremde Konten zu veranlassen. Das hatte vor einem Jahr eine Bank im Raum Kaiserslautern eine sechsstellige Summe gekostet.
Kein Spaß, sondern strafbar
Wie Böhler erläutert, können Deepfakes eine Verurteilung wegen Beleidigung, Verleumdung oder übler Nachrede nach sich ziehen. Selbst komplett mit KI erstellte Kinderpornografie fällt unter den Paragrafen 184 des Strafgesetzbuchs (Verbreitung, Erwerb und Besitz von Kinderpornografie). Außerdem kommt nach einer Übersicht des Wissenschaftlichen Dienstes des Bundestags auch die Verletzung des höchstpersönlichen Lebensbereichs und von Persönlichkeitsrechten infrage. Das ist beispielsweise der Fall, wenn per KI erstellte sogenannte Rachepornos im Netz veröffentlicht werden. Der Bundesrat will zudem mit einem neu gefassten Paragrafen 201 im Strafgesetzbuch für mehr Klarheit und Strafbarkeit sorgen – mit Höchststrafen von bis zu fünf Jahren.
Hätten Sie es gewusst? Von den vier Kinderbildern ist nur das rechts unten echt. Bei den Drogenfotos ist nur das von der Plantage (rechts oben) mit KI erzeugt.