Verbraucherschutz 
KI: Warum man dem Rat vieler Chatbots nicht blind vertrauen sollte
Um ihren Vertrag mit dem Fitnessstudio zu kündigen, befragt die junge Frau ChatGPT. Kein Problem, meint der Chatbot: Bei einem Folgeabo bestehe ein monatliches Kündigungsrecht. Als der Studiobetreiber sich querstellt, wendet die Kundin sich an die Verbraucherzentrale. Im Gespräch wird klar: Sie hat einen Vertrag mit Sonderkonditionen unterschrieben, eine monatliche Kündigung ist nicht möglich. Was dann passiert, begegnet den Mitarbeitern inzwischen häufiger, wie Oliver Havlat, zuständig für den überregionalen Webauftritt der Verbraucherzentralen, berichtet. „Die Frau stellte unsere Beratung als falsch dar. Schließlich hatte die KI ja etwas anderes gesagt.“
Wer Rat sucht, nutzt heute immer öfter Künstliche Intelligenz. Um sich schnell einen ersten Überblick zu verschaffen, können Chatbots und KI-Zusammenfassungen in Suchmaschinen durchaus hilfreich sein. Allerdings steckt der Teufel oft im Detail, warnen Verbraucherberater. Mal fehlten wichtige Aspekte, etwa zu den Kosten eines Rechtsstreits, mal seien Informationen sehr oberflächlich oder schlicht falsch. Und wo es keine passende Antwort im Netz gibt, verbreitet KI bisweilen ihre eigene Version der Dinge, wie eine aktuelle Studie der Europäischen Rundfunkunion zeigt. Im Auftrag dieses Zusammenschlusses von 68 öffentlich-rechtlichen Sendern aus 56 Ländern wurde systematisch die Zuverlässigkeit der populärsten KI-Systeme getestet. Das erschreckende Ergebnis: ChatGPT, Gemini und andere Chatbots erfinden bis zu 40 Prozent ihrer Antworten und stellen sie sehr überzeugend als Fakten dar. Sie halluzinieren. Das ließe sich, so die Autoren, mit besseren Fragen zumindest etwas reduzieren. Doch viele Nutzer wüssten nicht, dass man die Systeme per Prompt explizit dazu auffordern müsse, im Netz nach aktuellen Informationen zu suchen.
Gefährliche Falschinformation bei Finanzfragen
Hilfestellung beim Einsatz von KI gibt beispielsweise ein Web-Seminar der Verbraucherzentrale Rheinland-Pfalz. Darin geht es unter anderem um die Frage, welche privaten Daten man besser nicht eingibt. Aber auch um Falschinformationen. Gerade bei rechtlichen Themen und Finanzfragen ist es wichtig, die Auskünfte zu hinterfragen, sagt Maximilian Heitkämper, Fachbereichsleiter Digitales und Verbraucherrecht der Verbraucherzentrale in Mainz. „Gegen eine Recherche mit KI spricht nichts. Es kommt vielmehr darauf an, wie Ratsuchende mit ihrem so erworbenen Vorwissen umgehen, ob sie bereit sind, unsere Einschätzung zu hören und auf diese zu vertrauen“, berichtet er aus der Praxis der Kollegen.
Nur wenige Nutzer überprüfen die Auskunft im Netz. Schließlich wirkt die Antwort des Chatbots oft plausibel. Wer eine Google-Suche startet, bekommt in der KI-Übersicht eine Zusammenfassung der gefundenen Informationen. Die mitgelieferten Links klickt kaum jemand an. Dieses „No Click“ genannte Phänomen spüren Medienhäuser, aber auch unabhängige Beratungsorganisationen. Auf der Hauptseite der Verbraucherzentralen sind beispielsweise die Zugriffszahlen innerhalb eines Jahres um ein Viertel eingebrochen, weil Anfragen direkt in der Suchmaschine enden. „KI-basierte Suchantworten schaffen neue Inhalte und verdrängen etablierte Informationsquellen“, sagt Dirk Lewandowski. Der Hamburger Informatikprofessor hat im Auftrag der Medienanstalten die Auswirkungen von KI auf Informations- und Meinungsvielfalt untersucht.
Bots greifen Inhalte ab
Etwa 1600 Wissensartikel zu Themen wie Finanzen, Bauen und Umwelt finden sich im zentralen Webauftritt der Verbraucherzentralen. Mehrmals täglich grasen Bots von Entwicklern wie Open Ai, Google und Perplexity AI die Seiten ab und überführen die Inhalte in eigene Datenbanken, aus denen dann die Chat-Anfragen beantwortet werden – teils sogar ohne die ursprüngliche Quelle zu nennen, berichtet IT-Fachmann Havlat. Dieses Vorgehen lasse sich über die Protokolle der Webseite nachvollziehen. Aufgrund dieser Daten weiß er: „90 Prozent der Nutzer begnügen sich mit der KI-Antwort.“
Die Folge: Wissensanbieter wie die Verbraucherzentrale verlieren massiv an Reichweite. Zwar ist deren Arbeit überwiegend öffentlich finanziert, sie sind nicht auf Klicks und Verkaufszahlen angewiesen. Doch um auf ihr Beratungsangebot hinzuweisen, muss die Verbraucherzentrale sichtbar bleiben. Sollte man angesichts dieser Entwicklung eigene Inhalte nicht besser schützen? Havlat sieht da einen Konflikt mit dem Auftrag, möglichst vielen Bürgern vertrauenswürdige Informationen zugänglich zu machen. „Unser Ziel muss es deshalb sein, möglichst prominent und korrekt zitiert in die KI-Anwendungen zu kommen“, sagt er. Wie das gelingt, dafür gebe es kein Rezept. „Alle experimentieren“, weiß Havlat.
Wie die Stiftung Warentest ihr Wissen schützt
Auch bei der Stiftung Warentest, die im Gegensatz zu den Verbraucherzentralen ihre Arbeit überwiegend aus dem Verkauf ihrer Publikationen finanziert, sinken die Besucherzahlen auf der Webseite. 2024 lagen diese noch bei 78 Millionen Visits. Vorständin Julia Bönisch spricht mit Blick auf aktuelle Zahlen von einem Minus von 16 Prozent im Vergleich zum Vorjahr. „Und das dicke Ende kommt erst noch“, befürchtet sie. Denn aktuell wachsen zumindest die Digital-Abonnements und gleichen die Rückgänge in Print aus.
Rund 15 Prozent ihrer Einnahmen erzielt die Stiftung laut Geschäftsbericht über die Homepage test.de, weit überwiegend mit Digital-Abos, sogenannten Flatrates. Zwar dürfe die KI die mit entsprechenden Codes gesicherte Bezahlschranke auf der eigenen Internetseite nicht überwinden, sagt Bönisch. Doch sobald Medien frei zugänglich über Produktuntersuchungen berichten, landen diese auch in den KI-Datenbanken. „Und wir schauen komplett in die Röhre“, sagt Bönisch. Ganz auf Berichterstattung verzichten werde Stiftung Warentest dennoch nicht. „93 Prozent der Deutschen kennen uns. Wir wollen unsere Bekanntheit halten – überlegen aber inzwischen sehr genau, welche Testberichte wir an Medien weiterspielen“, sagt die Vorständin.
Künstliche Intelligenz hat nach Ansicht von Experten nicht nur die Art der Auskunft, sondern auch die Suche nach Informationen grundlegend verändert. Statt sich selbst durch seitenlange Dokumente und Tabellen zu wühlen, gehen Nutzer heute in Dialog mit der KI. Die bietet ihnen in der Regel eine schnelle, leicht verständliche Zusammenfassung – falls nötig sogar als Audio oder in einer Übersetzung. Das Fatale: Selbst wenn ein KI-Chatbot falsche Antworten liefert, übernehmen Nutzer diese in rund 73 Prozent der Fälle ohne Prüfung – und teils gegen ihre eigene Intuition. Das geht aus einer zu Jahresbeginn veröffentlichten Studie der University of Pennsylvania hervor. Die Forscher nennen dieses Verhalten „kognitive Kapitulation“ – und sehen darin ein wachsendes Problem.
Mehr zum Thema Künstliche Intelligenz
Forscher ordnet ein: „KI ist ein mächtiges Werkzeug“
Regeln für KI: Wie es in Europa laufen soll
Missbrauch: Wenn die KI die Identität stibitzt:
Auf diese Entwicklungen reagiert die Stiftung Warentest mit einem eigenen Chatbot für Abonnenten. Er soll Nutzern verlässliche, auf ihre Frage zugeschnittene Antworten liefern. Die Arbeiten an dem Projekt laufen seit gut einem Jahr. Die größte Herausforderung: Ein System, dass den hohen Qualitätsstandards genügt. Fehlinformationen durch sogenannte Halluzinationen der KI kann sich Stiftung Warentest nicht erlauben. Schließlich steht ein hart erarbeiteter Ruf auf dem Spiel. „73 Prozent der Deutschen vertrauen uns stark oder sehr stark. Das ist die Basis, auf der alles fußt. Das dürfen wir auf keinen Fall zerstören“, sagt Julia Bönisch. Nach einer Reihe interner Tests ist die Vorständin zuversichtlich, dass der digitale Berater noch vor Sommer an den Markt geht. Damit wäre die Stiftung Warentest in ihrem Bereich Vorreiter. Die Verbraucherzentralen arbeiten zwar ebenfalls an einem Chatbot. Dieser soll aber laut Havlat wohl frühestens 2027 zum Einsatz kommen. Ähnliche Servicesysteme gibt es – in kleinerem Umfang und in sehr unterschiedlicher Qualität – bereits bei Behörden wie der Bundesnetzagentur oder auf Firmenwebseiten.
Ob wirklich jedes Unternehmen eine eigene KI braucht? Klaas Bollhöfer rechnet eher damit, dass es wenige namhafte Player geben wird. Die Frage sei, wie man seine Daten dort gewinnbringend einbringt. Der Gründer von „Birds on Mars“ berät seit 2017 Unternehmen dabei, Künstliche Intelligenz verantwortungsvoll und gewinnbringend einzusetzen. Etablierte Verbraucherberatung sollte aus seiner Sicht ihre Stärke gezielt ausspielen. „Sie haben extrem gute Daten, es gibt ein hohes Vertrauen in die Marke. Ohne diese Daten sind alle KI-Anwendungen nichts wert“, sagt Bollhöfer. Auch Julia Bönisch von der Stiftung Warentest ist überzeugt davon, dass der jetzt entwickelte Chatbot nur ein Zwischenschritt ist. „Irgendwann werden wir vielleicht unsere Inhalte nur noch für LLMs aufbereiten“, sagt sie. Solche Large Language Models werden mit riesigen Datenmengen trainiert und sind in der Lage, menschliche Sprache zu verstehen, Inhalte zu generieren und zu übersetzen.
Rasante Weiterentwicklung
Bereits jetzt nutzen Verbraucherzentralen und Stiftung Warentest Künstliche Intelligenz bei einigen internen Prozessen. Diese Programme können große Mengen Daten analysieren, Muster erkennen und auf dieser Grundlage Prognosen erstellen. Konkret erleichtert der KI-Einsatz die Recherche, etwa beim Vergleich von teils sehr umfangreichen Versicherungsunterlagen. Bislang mussten Volljuristen dafür Hunderte Seiten auswerten. Das ist aufwendig. Hier würden Mitarbeiter deutlich entlastet. Für die Verbraucherzentralen sieht Havlat außerdem Potenzial bei der Erfassung von Kundenanliegen. Mithilfe von KI könnten Ratsuchende künftig schneller an die richtige Stelle verwiesen werden. Jegliche Nutzung stehe allerdings unter der Prämisse, dass am Ende ein Mensch kontrolliert und entscheidet.
Haben die Warentester eigentlich selbst schon einmal die Qualität von KI-Anwendungen untersucht? Bönisch lacht und schüttelt den Kopf: „Die Entwicklungen sind so schnell, dass unsere Ergebnisse mit der Veröffentlichung mutmaßlich schon wieder überholt wären.“
Info
Dieser Artikel stammt aus der RHEINPFALZ am SONNTAG, der Wochenzeitung der RHEINPFALZ. Digital lesen Sie die vollständige Ausgabe bereits samstags im E-Paper in der RHEINPFALZ-App (Android, iOS). Sonntags ab 5 Uhr erhalten Sie dort eine aktualisierte Version mit den Nachrichten vom Samstag aus der Pfalz, Deutschland und der Welt sowie besonders ausführlich vom Sport.