Familie 
KI im Kinderzimmer
Von Harald Czycholl
ChatGPT, digitale Assistenten, generierte Fotos: Künstliche Intelligenz (KI) ist längst allgegenwärtig – und hält zunehmend auch Einzug in den Alltag von Familien. Während die Politik noch über Social-Media-Verbote diskutiert, nutzen viele Jugendliche nämlich längst selbstverständlich KI-Tools.
So ist die Nutzung von KI zur Informationssuche laut JIM-Jugendstudie 2025 gegenüber dem Vorjahr um 27 Prozentpunkte auf 70 Prozent gestiegen. Die Studie zur Reihe JIM (Jugend, Information, Medien) bildet jährlich das Medienverhalten der Jugendlichen in Deutschland ab. 2025 wurden 1200 Jugendliche zwischen zwölf und 19 Jahren befragt. Eine Umfrage des Digitalverbands Bitkom zeigt zudem, dass jeder dritte Jugendliche (31 Prozent) KI-Tools nutzt, um sich bei den Hausaufgaben helfen zu lassen. 23 Prozent der Kinder und Jugendlichen sind dabei der Auffassung, KI könne ihnen Sachverhalte besser erklären als ihre Lehrkräfte. Insgesamt zeigt sich: KI ist für viele Jugendliche in kurzer Zeit zu einem zentralen Alltagswerkzeug geworden.
Doch während über TikTok- und Meta-Verbote debattiert wird, stellt sich kaum jemand die Frage, wer Kinder und Jugendliche vor den Risiken von KI schützt – wie etwa der Verbreitung von Fake News, dem Missbrauch von Daten oder auch sexualisierter Gewalt durch Deepfakes. Darauf verweist auch die Medienanstalt Rheinland-Pfalz, die an der Erstellung der JIM-Jugendstudie beteiligt war.
Immer mehr Kinder und Jugendliche seien damit auch gefährlichen Inhalten im Netz ausgesetzt, warnte Marc Jan Eumann, Direktor der Medienanstalt, bei der Veröffentlichung der Studie. So gaben 67 Prozent der befragten Jugendlichen an, im Verlauf des zurückliegenden Monats Fake News begegnet zu sein. Dieser Trend verstärke sich mit KI. Die Plattformen seien in der Pflicht, problematische Inhalte konsequent zu löschen. Denn mit großer Reichweite gehe eine große Verantwortung einher, so Eumann.
Mit der Nutzung von ChatGPT und ähnlichen Anwendungen sind zudem erhebliche Datenschutzrisiken verbunden, warnt Maurice Brumund, Mitbegründer und CEO der Inno KI GmbH. „Bei den kostenlosen Versionen der großen KI-Anbieter landen sensible Daten – von Hausaufgaben über persönliche Fragen bis zu hochgeladenen Dokumenten – häufig außerhalb Europas und werden für das Training der KI-Modelle verwendet.“ Viele Kinder und Jugendliche seien sich dieser Datenschutzrisiken nicht bewusst. Verbieten sei allerdings keine Lösung, so der Experte. „KI-Tools sind für Jugendliche bereits unverzichtbare Lernbegleiter geworden. Ein Verbot wäre realitätsfern. Die Frage ist nicht ob, sondern wie Kinder und Jugendliche diese Technologie sicher nutzen können.“ Bitkom-Hauptgeschäftsführer Bernhard Rohleder pflichtet ihm bei: „Richtig eingesetzt kann KI ein wichtiges Werkzeug sein, Schülerinnen und Schüler individuell beim Lernen zu unterstützen und auch Lehrkräfte zu entlasten.“ Wichtig sei es, den Einsatz von KI an den Schulen zu trainieren und das Verständnis für die Funktionsweise zu verbessern.
Auch die Eltern können den Einstieg ihrer Kinder in KI-Programme unterstützen. Wie, dazu haben wir Tipps hier zusammengestellt.
Künstliche Intelligenz sei für Kinder und Jugendliche Chance und Risiko zugleich, gibt Holger Hofmann, Bundesgeschäftsführer des Deutschen Kinderhilfswerks, zu bedenken. Bei der rasanten technischen Entwicklung in diesem Bereich gelte es, die Rechte und Perspektiven von Kindern im Blick zu behalten. „KI kann neue Lern- und Kreativchancen eröffnen. Wenn Kinder KI altersgerecht erleben, stärkt das ihre Neugier, ihr Selbstbewusstsein und ihr Urteilsvermögen“, so Hofmann. Wichtig sei es daher, Kinderperspektiven stärker in die Entwicklung digitaler Angebote und Regeln einfließen zu lassen. „Nur so entstehen Räume, die Kinder nicht nur schützen, sondern stärken und in denen KI im Sinne der Kinder gestaltet wird.“
Digitale Teilhabe beinhalte dabei insbesondere auch den Aufbau von Medienkompetenz, betont Hofmann. „Wir brauchen kindgerechte digitale Rückzugsräume und konsequente Ansätze für die Vermittlung von Medienerziehungskompetenz an Eltern schon im frühkindlichen Bildungsbereich.“ Wichtig für Eltern ist es dabei in jedem Fall, die Entwicklung ihrer Kinder im virtuellen Raum nachzuvollziehen und auch in technischer Hinsicht am Ball zu bleiben. Genauso wie Eltern sich mit Social Media-Angeboten wie TikTok und Instagram auseinandersetzen müssen, müssen sie auch in Sachen KI auf der Höhe der Zeit bleiben, um ihren Kindern einen verantwortungsvollen Umgang mit den neuen Tools beizubringen. „Kinder können sehr kompetente KI-Nutzer sein, wenn man sie früh dazu befähigt und ihnen die nötigen Kompetenzen an die Hand gibt“, so der Kinderrechtsexperte Hofmann.
Medienkompetenz wird immer wichtiger
Umgekehrt gilt: Haben die Kinder nicht die notwendige Medienkompetenz für den Umgang mit KI, nehmen schnell die negativen Seiten der neuen Technologie überhand. „Aktuell sind viele Kinder und Jugendliche mit sogenannten Deepfakes konfrontiert“, warnt Hofmann. Deepfakes sind mit KI erstellte Bild- und Videobearbeitungen, in denen die Gesichter oder Körper realer Personen in fremde Kontexte eingefügt werden. „Die Tools für die Erstellung solcher Bilder und Videos erfreuen sich hoher Beliebtheit in den App-Stores und die erstellten Bilder und Videos verbreiten sich auch auf Schulhöfen rasant schnell“, warnt Hofmann. „Insbesondere sexualisierte Darstellungen von Mitschülerinnen und Mitschülern verstören die Betroffenen und stellen eine bisher kaum regulierte Form digitaler Gewalt dar.“
„Wir können KI nicht aus dem Leben unserer Kinder verbannen – aber wir können ihnen beibringen, verantwortungsvoll damit umzugehen. Und das funktioniert am besten gemeinsam als Familie, nicht durch Verbote“, sagt auch Digitalexperte Brumund. Sein Unternehmen hat ein Familien-Abo für die datenschutzkonforme Plattform innoGPT auf den Markt gebracht, das 34,90 Euro monatlich kostet und fünf Zugänge für Familienmitglieder beinhaltet. Damit haben die Nutzer Zugriff auf führende KI-Modelle von Anbietern wie OpenAI, Google, Meta oder Mistral, ohne dabei ihre persönlichen Daten wie E-Mail-Adressen, Namen, Geburtsdaten oder ähnliches preisgeben zu müssen – sie werden vor der Übermittlung an die KI-Plattformen durch Platzhalter ersetzt. „Bei uns verlassen keine sensiblen Daten Europa, und keine Daten werden für KI-Training verwendet oder verkauft.“
Ein Recht auf Schutz
Kinder und Jugendlichen hätten ein Recht darauf, am digitalen Raum teilzuhaben und soziale Medien wie auch KI-Tools zu nutzen, ohne dass ihre mentale Gesundheit oder ihre Sicherheit gefährdet werden, betont Ramona Pop, Vorständin des Verbraucherzentrale Bundesverbands. „Damit das gelingen kann, müssen sich das Design und die Grundeinstellungen digitaler Dienste ändern.“ Plattformen müssten so gestaltet sein, dass weder Suchtgefahren noch Datenschutzrisiken für Kinder bestehen würden. Es gehe darum, „Minderjährige zu schützen, ohne sie auszuschließen“, so Pop. „Die sichere Teilhabe junger Menschen an der digitalen Welt muss weiter sichergestellt sein.“
Info
Dieser Artikel stammt aus der RHEINPFALZ am SONNTAG, der Wochenzeitung der RHEINPFALZ. Digital lesen Sie die vollständige Ausgabe bereits samstags im E-Paper in der RHEINPFALZ-App (Android, iOS). Sonntags ab 5 Uhr erhalten Sie dort eine aktualisierte Version mit den Nachrichten vom Samstag aus der Pfalz, Deutschland und der Welt sowie besonders ausführlich vom Sport.
DIE RHEINPFALZ digital
Alle Abonnentinnen und Abonnenten der gedruckten Zeitung können auch digital Nachrichten lesen. Art und Umfang variiert je nach Abopaket. Jetzt einmalig aktivieren: www.rheinpfalz.de/lesestart
Bei Fragen zu unseren digitalen Produkten: digital@rheinpfalz.de oder 0631 3701-6690
Wir begleiten Sie beim Digitalstart: Informationen, Termine und Anmeldungsmöglichkeiten finden Sie immer aktuell unter www.rheinpfalz.de/akademie