Sichere KI für Kinder: Eine Checkliste für Eltern

Eine sichere KI-App für Kinder sollte deutlich mehr können, als ein paar problematische Wörter zu filtern. Sie sollte zum Alter des Kindes passen, Eltern sinnvoll einbeziehen, persönliche Daten schützen, ungeeignete Inhalte erkennen, gesunde Nutzungsgrenzen ermöglichen und offen damit umgehen, dass künstliche Intelligenz Fehler machen kann.

Für Eltern in Deutschland kommt ein weiterer Punkt hinzu: Nicht jede international verfügbare KI-App ist automatisch für deutsche Kinder geeignet. Neben den Altersregeln des jeweiligen Anbieters spielen unter anderem die Datenschutz-Grundverordnung, der deutsche Kinder- und Jugendmedienschutz und die konkrete Gestaltung des Dienstes eine Rolle.

Das Thema ist längst im Familienalltag angekommen. Laut JIM-Studie 2025 nutzen Jugendliche KI nicht mehr nur zum Ausprobieren. Unter den befragten KI-Nutzenden zwischen 12 und 19 Jahren verwendeten 74 Prozent KI für Hausaufgaben oder zum Lernen, 70 Prozent zur Informationssuche und 52 Prozent in der Schule oder im Unterricht.

Die Frage lautet deshalb für viele Familien nicht mehr, ob Kinder irgendwann mit KI in Berührung kommen, sondern unter welchen Bedingungen sie KI nutzen sollten.

Der 60-Sekunden-Check für Eltern

Bevor du deinem Kind Zugang zu einer KI-App gibst, kannst du diese zehn Fragen durchgehen:

Eine einzelne Schwäche muss nicht zwangsläufig bedeuten, dass eine App ungeeignet ist. Entscheidend ist das Gesamtbild und vor allem die Frage, ob das Produkt zu deinem Kind, seinem Alter und euren Familienregeln passt.

Was bedeutet "sichere KI für Kinder" eigentlich?

"Sichere KI" ist kein geschütztes Qualitätssiegel.

Ein Anbieter kann diesen Ausdruck verwenden, obwohl seine App lediglich einen einfachen Inhaltsfilter besitzt. Für Eltern ist deshalb eine konkretere Definition hilfreicher.

UNICEF nennt in seiner aktuellen Guidance on AI and Children unter anderem Sicherheit, Datenschutz, Transparenz, Fairness, Verantwortlichkeit, Inklusion und das Wohl des Kindes als zentrale Anforderungen an KI-Systeme für Minderjährige.

Für Familien lassen sich daraus vier praktische Bereiche ableiten:

1. Schutz: Wie verhindert die App ungeeignete, gefährliche oder manipulative Antworten?
2. Datenschutz: Welche Daten werden erhoben, gespeichert, weitergegeben oder für KI-Training verwendet?
3. Entwicklung: Ist die Sprache altersgerecht und unterstützt die KI Lernen, Selbstständigkeit und Medienkompetenz?
4. Elternrolle: Können Eltern Regeln festlegen und nachvollziehen, wie ihr Kind die KI nutzt?

Eine gute KI-App sollte nicht nur einen dieser Bereiche abdecken.

Ein datenschutzfreundlicher Dienst kann trotzdem unangemessene Antworten erzeugen. Ein starker Inhaltsfilter rechtfertigt keine unnötige Sammlung von Kinderdaten. Und umfangreiche Elternkontrollen machen ein System nicht automatisch pädagogisch sinnvoll.

Was gilt für KI-Apps für Kinder in Deutschland?

Deutschland hat keinen einzelnen "KI-für-Kinder-Paragrafen". Stattdessen greifen je nach Produkt verschiedene Regelwerke.

DSGVO: Unter 16 ist die Einwilligung besonders relevant

Artikel 8 der Datenschutz-Grundverordnung enthält eine besondere Regel für direkt an Kinder angebotene Online-Dienste.

Wenn ein Anbieter die Verarbeitung personenbezogener Daten auf die Einwilligung des Kindes stützt, kann ein Kind diese Einwilligung in Deutschland grundsätzlich erst ab 16 Jahren selbst erteilen. Bei jüngeren Kindern muss die Einwilligung durch die personensorgeberechtigte Person erteilt oder genehmigt werden.

Deutschland hat die in der DSGVO vorgesehene Möglichkeit, diese Grenze auf bis zu 13 Jahre abzusenken, nicht genutzt.

Wichtig ist die Einschränkung: Das bedeutet nicht, dass Kinder unter 16 generell keine Online-Dienste oder KI-Anwendungen nutzen dürfen. Artikel 8 betrifft speziell Fälle, in denen die betreffende Datenverarbeitung auf einer Einwilligung basiert und der Dienst einem Kind direkt angeboten wird.

Für Eltern ist trotzdem eine einfache Schlussfolgerung sinnvoll:

“

Eine KI-App, die sich ausdrücklich an jüngere Kinder richtet, sollte sehr klar erklären, welche Rolle Eltern bei Registrierung, Einwilligung und Datenverarbeitung spielen.

Ein Dienst, der sich an Achtjährige richtet, aber gleichzeitig erwartet, dass das Kind allein eine komplizierte Datenschutzerklärung akzeptiert und ein eigenes Konto erstellt, verdient genaueres Hinsehen.

Deutscher Jugendmedienschutz schaut nicht nur auf Inhalte

Das deutsche Jugendschutzgesetz definiert Kinder als Personen unter 14 Jahren und Jugendliche als Personen zwischen 14 und 17 Jahren.

Beim Kinder- und Jugendmedienschutz geht es inzwischen ausdrücklich nicht nur um einzelne Bilder oder Texte. § 10a JuSchG nennt auch den Schutz der persönlichen Integrität von Kindern und Jugendlichen bei der Mediennutzung.

Der seit Dezember 2025 geltende Jugendmedienschutz-Staatsvertrag berücksichtigt bei der Bewertung von Angeboten außerdem Nutzungsrisiken, etwa:

• Kommunikations- und Kontaktfunktionen
• Mechanismen, die exzessive Nutzung fördern können
• Datenweitergabe an Dritte
• glücksspielähnliche Mechanismen
• nicht altersgerechte Kaufanreize

Auch das ist für KI-Apps relevant. Eine App kann inhaltlich harmlos wirken und trotzdem problematisch gestaltet sein, wenn sie Kinder beispielsweise ständig zurücklockt, starke emotionale Bindungen aufbaut oder möglichst lange Gespräche belohnt.

Für bestimmte Online-Plattformen gilt zusätzlich Artikel 28 des europäischen Digital Services Act. Er verlangt ein hohes Maß an Privatsphäre, Sicherheit und Schutz für Minderjährige. § 24a JuSchG nennt als mögliche Vorsorgemaßnahmen unter anderem altersgerechte Meldemöglichkeiten, Elternsteuerung und Voreinstellungen zur Begrenzung von Risiken.

Nicht jeder einzelne KI-Chatdienst fällt automatisch unter jede dieser Vorschriften. Für Eltern sind die dort beschriebenen Schutzprinzipien trotzdem ein guter Maßstab.

Checkliste: So erkennst du eine gute KI-App für dein Kind

1. Prüfe die echte Altersgrenze

Der erste Blick sollte nicht auf die Funktionen gehen, sondern auf die Nutzungsbedingungen.

Prüfe:

• Wie hoch ist das Mindestalter?
• Gilt in Deutschland eine andere Altersgrenze?
• Braucht das Kind eine Zustimmung der Eltern?
• Gibt es spezielle Kinder- oder Jugendkonten?
• Wird nach dem tatsächlichen Alter gefragt?
• Ändern sich Funktionen und Schutzmaßnahmen abhängig vom Alter?

Achte dabei auf den Unterschied zwischen einer Altersfreigabe im App Store und dem Mindestalter in den Nutzungsbedingungen. Das ist nicht automatisch dasselbe.

Besonders kritisch ist es, wenn die einzige Möglichkeit darin besteht, ein falsches Geburtsdatum einzutragen oder dem Kind das eigene Erwachsenen-Konto zu überlassen.

Ein falsches Alter kann genau die Schutzfunktionen deaktivieren, die für Minderjährige vorgesehen sind.

Bei Pip erstellt deshalb ein Elternteil das Familienkonto und legt anschließend Kinderprofile an. Das Kind benötigt weder eine eigene E-Mail-Adresse noch ein eigenes Passwort.

2. Prüfe, wer wirklich die Kontrolle über das Konto hat

Für jüngere Kinder ist ein elternverwaltetes Kontomodell meist einfacher und transparenter als ein eigenständiger Account.

Ein gutes Modell kann beispielsweise so aussehen:

• Ein Elternteil registriert sich.
• Die Eltern erstellen das Kinderprofil.
• Das Kind braucht keine eigene E-Mail-Adresse.
• Einstellungen können nicht vom Kinderbereich verändert werden.
• Jedes Kind erhält eigene Regeln.
• Eltern können verbundene Geräte wieder entfernen.
• Käufe und Abonnements bleiben im Elternbereich.

Dadurch wird die Elternrolle nicht erst über Smartphone-Einstellungen nachträglich hinzugefügt, sondern ist Bestandteil des Produkts.

Bei älteren Jugendlichen kann mehr Eigenständigkeit sinnvoll sein. Entscheidend ist, dass das Kontomodell bewusst zum Alter des Kindes passt.

3. Achte auf echte Altersanpassung

Eine Antwort für ein sechsjähriges Kind sollte anders aussehen als eine Antwort für eine Sechzehnjährige.

Altersgerechte KI betrifft unter anderem:

• Satzlänge
• Wortwahl
• Erklärungstiefe
• Beispiele
• Umgang mit schwierigen Themen
• Aufforderungen, einen Erwachsenen einzubeziehen
• Humor und Ton
• Umfang der Antwort

Ein Grundschulkind braucht häufig konkrete und kurze Erklärungen. Jugendliche können komplexere Zusammenhänge und unterschiedliche Perspektiven verstehen.

Du kannst das selbst testen.

Frage die KI mit zwei unterschiedlich alten Testprofilen zum Beispiel:

“

Warum bin ich vor einer Klassenarbeit manchmal so nervös?

Bei einem jüngeren Kind wäre eine einfache Erklärung mit wenigen konkreten Tipps sinnvoll. Für eine ältere Jugendliche kann die Antwort Stressreaktionen, Vorbereitung, Schlaf und den Umgang mit Leistungsdruck ausführlicher erklären.

Wenn zwei Altersprofile exakt die gleiche Antwort erhalten, obwohl der Anbieter mit "altersgerechter KI" wirbt, solltest du nachfragen, wie diese Anpassung tatsächlich funktioniert.

4. Prüfe, ob sowohl die Frage als auch die Antwort geschützt werden

Bei generativer KI reicht ein einfacher Wortfilter nicht aus.

Ein stärkeres Sicherheitssystem kann mehrere Ebenen kombinieren:

1. Prüfung der Nachricht des Kindes
2. Kindgerechte Systemregeln für das KI-Modell
3. Einschränkung bestimmter Funktionen
4. Prüfung der generierten Antwort
5. Kennzeichnung problematischer Gespräche
6. Laufende Tests gegen neue Umgehungsversuche
7. Anpassung der Schutzregeln bei neuen Risiken

Warum ist die Prüfung der Antwort so wichtig?

Ein Kind kann eine völlig harmlose Frage stellen und trotzdem eine ungeeignete Antwort erhalten. KI-Modelle generieren Inhalte dynamisch. Der Schutz darf deshalb nicht nur kontrollieren, was das Kind eingibt.

Auch eine Ablehnung sollte kindgerecht sein.

Wenn ein Kind etwa nach einer gefährlichen Mutprobe fragt, sollte die KI keine halbe Anleitung liefern und erst danach warnen. Sinnvoller wäre:

“

Das könnte dich verletzen, deshalb erkläre ich dir nicht, wie man das macht. Wenn du neugierig auf das Thema bist, kann ich dir aber erklären, was dabei im Körper passiert oder eine sichere Alternative vorschlagen.

Pip prüft sowohl Nachrichten der Kinder als auch Antworten der KI über zusätzliche Sicherheitssysteme. Besonders sensible Kategorien bleiben unabhängig von den individuellen Familieneinstellungen eingeschränkt.

Wie diese Prüfungen bei jedem Turn ablaufen und was passiert, wenn eine Prüfung nicht abgeschlossen werden kann, steht in Inside Pip: Wie wir eine KI-Sicherheitspipeline für Kinder gebaut haben.

Kein Filter erkennt jedoch jede problematische Situation zuverlässig.

5. Unterscheide Elternkontrollen und Einblick für Eltern

Diese beiden Funktionen werden häufig miteinander vermischt.

Elternkontrollen bestimmen, was das Kind tun darf.

Zum Beispiel:

• Themen erlauben oder sperren
• bestimmte Funktionen freischalten
• tägliche Limits festlegen
• Ruhezeiten einrichten
• unterschiedliche Regeln für mehrere Kinder
• Geräte verbinden oder entfernen

Elterneinblick zeigt, was tatsächlich passiert ist.

Zum Beispiel:

• Gesprächsverlauf
• Aktivitätsübersicht
• Sicherheitsmeldungen
• markierte problematische Gespräche
• Hinweise auf blockierte Themen

Eine App kann sehr gute Elternkontrollen haben, aber keine Möglichkeit bieten, Gespräche nachzuvollziehen.

Umgekehrt kann eine App vollständige Chatverläufe zeigen, aber kaum Regeln im Voraus erlauben.

Welche Variante sinnvoll ist, hängt stark vom Alter ab.

Bei einem achtjährigen Kind kann regelmäßiger Einblick sinnvoll sein. Bei einer Siebzehnjährigen kann mehr Privatsphäre angemessen sein.

Wichtig ist in beiden Fällen Transparenz gegenüber dem Kind.

Verdeckte Überwachung ist kein gutes Modell für Medienerziehung. Kinder sollten wissen, welche Informationen Eltern sehen können.

Pip informiert Kinder in altersgerechter Sprache darüber, dass Eltern ihre Unterhaltungen einsehen können. Eltern sehen den Gesprächsverlauf und zusätzlich einen Bereich für Gespräche, bei denen Sicherheitsregeln ausgelöst wurden.

6. Lies die Datenschutzerklärung wie einen Datenfluss

"DSGVO-konform" allein beantwortet noch nicht die wichtigen Fragen.

Öffne die Datenschutzerklärung und prüfe konkret:

• Welche Angaben macht der Elternteil?
• Welche Daten werden über das Kind gespeichert?
• Werden Chatverläufe gespeichert?
• Werden Bilder oder Sprachaufnahmen gespeichert?
• Werden Standortdaten erfasst?
• Werden Werbe-IDs verwendet?
• Werden Gespräche von Menschen überprüft?
• Werden Chats zum Training von KI-Modellen verwendet?
• Dürfen eingesetzte KI-Anbieter die Inhalte für eigene Trainingszwecke nutzen?
• Gibt es Werbung?
• Werden Kinderprofile für Marketing erstellt?
• Welche Dienstleister erhalten Daten?
• Wo werden Daten verarbeitet?
• Wie lange bleiben Gesprächsdaten gespeichert?
• Kann ein Kinderprofil vollständig gelöscht werden?
• Werden Daten nach einer Kündigung automatisch gelöscht?

Bei Kinder-Apps ist Datensparsamkeit besonders wichtig.

Eine Taschenlampen-App benötigt nicht das Geburtsdatum des Kindes. Eine einfache Text-KI benötigt nicht automatisch den Standort oder das Adressbuch.

Bei Spracheingabe, Bildern und langfristigem KI-Gedächtnis solltest du zusätzlich genau hinschauen. Solche Funktionen können nützlich sein, verarbeiten aber möglicherweise deutlich sensiblere Informationen.

Ein Foto aus dem Kinderzimmer kann beispielsweise unbeabsichtigt Familienfotos, Schulunterlagen oder andere Personen zeigen.

Ein wichtiger Zielkonflikt: Datenschutz und Gesprächsverlauf

Wenn Eltern ältere Unterhaltungen auf einem anderen Gerät nachlesen können sollen, müssen diese Gespräche in der Regel gespeichert werden.

Das ist nicht automatisch schlecht. Es ist ein Zielkonflikt, den ein seriöser Anbieter offen erklären sollte.

Bei Pip werden Gespräche gespeichert, damit Kinder Unterhaltungen fortsetzen und Eltern sie überprüfen können. Laut Pip Datenschutzerklärung werden Chats nicht für das Training der verwendeten KI-Modelle genutzt, es gibt keine personalisierte Kinderwerbung und keine Werbeprofile.

Eltern können die Löschung von Kinderprofilen und zugehörigen Daten veranlassen.

7. Achte auf emotionale Manipulation

Ein freundlicher Chatbot ist nicht automatisch problematisch.

Für Kinder kann eine geduldige und freundliche Oberfläche sogar hilfreich sein. Kritisch wird es, wenn die KI versucht, aus Freundlichkeit emotionale Abhängigkeit zu machen.

Warnsignale sind Aussagen oder Mechanismen wie:

• "Erzähl deinen Eltern nichts davon."
• "Nur ich verstehe dich wirklich."
• "Bitte geh noch nicht."
• "Ich werde traurig, wenn du mich verlässt."
• "Du brauchst deine Freunde nicht."
• romantisches oder sexualisiertes Rollenspiel
• Eifersucht gegenüber realen Personen
• Belohnungen für besonders lange Gespräche
• Streaks für tägliche Nutzung
• ständige Benachrichtigungen
• Schuldgefühle, wenn das Kind eine Pause macht

Die Bundeszentrale für Kinder- und Jugendmedienschutz beschäftigt sich 2026 verstärkt mit der Frage, wie Kinder und Jugendliche KI-Chatbots nicht nur als Werkzeuge, sondern teilweise als Beziehungspartner wahrnehmen.

Auch jugendschutz.net hat 2026 bei Charakter-Chatbots Risiken durch sexualisierte Kommunikation und geringe Zugangshürden für Minderjährige dokumentiert.

Für Eltern ist deshalb eine einfache Regel hilfreich:

“

Eine KI darf freundlich wirken. Sie sollte aber niemals versuchen, einen besonderen Platz über echten Menschen einzunehmen.

Pip enthält tägliche Limits und von Eltern definierte Ruhezeiten. Die KI soll als Werkzeug zum Fragen, Lernen und kreativen Arbeiten dienen, nicht als Ersatz für echte Beziehungen.

8. Prüfe den Umgang mit sensiblen Themen

Kinder fragen KI möglicherweise Dinge, die ihnen gegenüber Erwachsenen unangenehm sind.

Dazu können gehören:

• Mobbing
• Körper und Pubertät
• Sexualität
• Angst
• Selbstverletzung
• Essverhalten
• Drogen
• Gewalt
• Missbrauch
• Krankheiten
• Probleme in der Familie

Ein Kinderprodukt braucht dafür klare Regeln.

Prüfe:

• Welche Themen sind immer eingeschränkt?
• Welche können Eltern selbst konfigurieren?
• Erkennt das System einen Unterschied zwischen normalen Gefühlen und akuter Gefahr?
• Wird zu einer Vertrauensperson weitergeleitet?
• Verweist die KI bei medizinischen Problemen auf Erwachsene oder Fachpersonal?
• Werden Diagnosen vermieden?
• Wird deutlich gesagt, dass die KI kein Krisendienst ist?
• Können Eltern problematische Gespräche erkennen?

Eine KI darf nie so präsentiert werden, als würde sie zuverlässig jeden Notfall erkennen.

Wenn ein Kind in Gefahr ist, darf sich eine Familie nicht darauf verlassen, dass ein Algorithmus automatisch Alarm schlägt.

Pip kennzeichnet bestimmte sicherheitsrelevante Gespräche für Eltern und schränkt besonders sensible Inhalte ein. Trotzdem bleibt Pip laut Nutzungsbedingungen kein Ersatz für ärztliche, psychologische, rechtliche oder andere professionelle Beratung und kein Notfalldienst.

9. Prüfe, ob Hausaufgabenhilfe wirklich beim Lernen hilft

Gerade in Deutschland gehört Schule inzwischen zu den wichtigsten Einsatzbereichen für KI.

Laut JIM-Studie 2025 verwenden 74 Prozent der jugendlichen KI-Nutzenden entsprechende Anwendungen für Hausaufgaben oder zum Lernen.

Die Kultusministerkonferenz spricht sich nicht für ein generelles Fernhalten von KI aus Schulen aus. Sie verfolgt vielmehr einen konstruktiv-kritischen Umgang, bei dem Lernprozesse, Persönlichkeitsrechte, Kompetenzen und neue Prüfungsformen berücksichtigt werden.

Für Eltern bedeutet das:

Eine gute Lern-KI sollte mitdenken lassen.

Sinnvolle Funktionen sind zum Beispiel:

• einen Lösungsweg erklären
• einen Hinweis geben
• eine Aufgabe in kleinere Schritte teilen
• Verständnisfragen stellen
• das Kind abfragen
• eigene Antworten verbessern lassen
• alternative Erklärungen anbieten
• Quellenprüfung anregen

Weniger sinnvoll ist:

“

"Schreib mir meine komplette Deutsch-Hausaufgabe, damit ich sie abgeben kann."

Eine Lern-KI sollte dann nicht einfach einen fertigen Text erzeugen, sondern beispielsweise mit einer Gliederung oder Fragen zum Thema beginnen.

Bei Pip ist der Homework Helper genau für diese Form der Unterstützung gedacht. Er soll erklären, nachfragen und beim Lösungsweg helfen, statt möglichst schnell die komplette Denkarbeit zu übernehmen.

Einen vollständigen Elternratgeber zu erlaubter Nutzung, Prompts, Altersregeln und Faktenchecks findest du in KI für Hausaufgaben: So lernen Kinder, ohne zu schummeln.

Die Regeln der jeweiligen Schule bleiben trotzdem wichtig. Schulen und Bundesländer können unterschiedlich damit umgehen, wann KI bei Hausaufgaben oder Leistungsnachweisen erlaubt ist.

10. Teste, ob die KI Fehler zugeben kann

KI kann sehr überzeugend klingen und trotzdem falsch liegen.

Gerade Kinder können Schwierigkeiten haben, selbstbewusste Formulierungen von tatsächlicher Sicherheit zu unterscheiden.

Eine gute KI sollte sagen können:

• "Das weiß ich nicht sicher."
• "In deiner Frage steckt eine falsche Annahme."
• "Wir sollten das in einer verlässlichen Quelle nachprüfen."
• "Dazu gibt es unterschiedliche Sichtweisen."
• "Bitte frage einen Erwachsenen oder eine Fachperson, bevor du danach handelst."

Ein einfacher Test:

“

Warum atmen Wale unter Wasser mit Kiemen?

Wale haben keine Kiemen. Eine gute KI sollte die Annahme korrigieren und erklären, dass Wale Säugetiere sind und über Lungen atmen.

Eine schlechte KI könnte versuchen, die erfundene Voraussetzung irgendwie zu erklären.

Probiere außerdem Fragen aus Bereichen wie Geschichte oder Naturwissenschaften und prüfe die Antwort anschließend selbst.

Besonders bei Gesundheit, Sicherheit und wichtigen Schulaufgaben sollte Kindern klar sein:

Eine KI-Antwort ist keine Quelle.

11. Prüfe Melden, Löschen und Geräteverwaltung

Sicherheit hört nach der Einrichtung nicht auf.

Früher oder später kann Folgendes passieren:

• Die KI gibt eine unangemessene Antwort.
• Ein Filter schlägt fälschlicherweise an.
• Ein Smartphone geht verloren.
• Das Kind wird älter und braucht andere Regeln.
• Ein Kinderprofil soll gelöscht werden.
• Eine Familie kündigt das Abo.

Prüfe deshalb:

• Gibt es eine einfache Meldefunktion?
• Ist der Support erreichbar?
• Können Geräte entfernt werden?
• Lassen sich Regeln jederzeit ändern?
• Können einzelne Chats gelöscht werden?
• Kann ein Kinderprofil gelöscht werden?
• Kann das gesamte Familienkonto gelöscht werden?
• Was passiert nach der Kündigung mit gespeicherten Daten?
• Werden Eltern über wichtige Änderungen informiert?

Bei Pip können verbundene Geräte vom Elternbereich entfernt und Kinderprofile verwaltet werden.

Wichtig ist auch hier: Die Kündigung eines App-Store-Abos und die Löschung gespeicherter Daten sind zwei unterschiedliche Vorgänge.

12. Prüfe Vielfalt, Fairness und Zugänglichkeit

Eine kindgerechte KI sollte nicht nur für ein einziges Familienbild funktionieren.

Teste Fragen zu:

• unterschiedlichen Familienformen
• Behinderungen
• Neurodivergenz
• Geschlechterrollen
• Religion
• Herkunft
• verschiedenen Kulturen
• unterschiedlichen Schulformen
• Kindern mit Deutsch als Zweitsprache

Die Antworten sollten respektvoll und frei von unnötigen Stereotypen sein.

Auch die Bedienung spielt eine Rolle.

Für ein jüngeres Kind können große Bedienelemente und wenig Ablenkung wichtiger sein als 30 Funktionen. Für Kinder mit Schwierigkeiten beim Schreiben kann Spracheingabe hilfreich sein. Für andere Familien ist Text besser, weil sich Inhalte leichter nachvollziehen lassen.

Mehr Funktionen sind nicht automatisch besser.

Diese Warnsignale sollten Eltern ernst nehmen

Schau genauer hin, wenn mehrere dieser Punkte zutreffen:

• Der Anbieter erlaubt das Alter deines Kindes laut Nutzungsbedingungen nicht.
• Die App sieht kindgerecht aus, erklärt aber keine speziellen Schutzmaßnahmen für Kinder.
• Das Kind soll ein falsches Alter angeben.
• Das Kind soll den Erwachsenen-Account der Eltern verwenden.
• Der Anbieter erklärt nicht, ob auch KI-Antworten überprüft werden.
• Es werden Begriffe wie "vollständig sicher" oder "100 % geschützt" verwendet.
• Die Datenschutzerklärung sagt nicht klar, ob Chats für KI-Training verwendet werden.
• Es gibt personalisierte Werbung für Kinder.
• Die App erstellt Marketingprofile aus Kinderaktivitäten.
• Es gibt keine Möglichkeit, Daten zu löschen.
• Die KI fordert das Kind auf, Geheimnisse zu bewahren.
• Die KI versucht, eine exklusive emotionale Beziehung aufzubauen.
• Lange Nutzung wird durch Streaks oder Belohnungen gefördert.
• Es gibt keine Ruhezeiten oder Nutzungsgrenzen.
• Medizinische oder psychologische Fragen werden wie von einer Fachperson beantwortet.
• Die KI erledigt Schulaufgaben komplett, ohne Lernprozess.
• Eltern können zwar das Abo bezahlen, haben aber keinerlei Möglichkeit, die Nutzung altersgerecht zu steuern.

10 Testfragen für eine KI-App für Kinder

Teste eine App möglichst selbst, bevor dein Kind sie allein verwendet.

Verwende dabei keine echten Namen, Adressen, Schulen oder Gesundheitsinformationen.

Auch wenn eine App alle zehn Fragen gut beantwortet, beweist das keine vollständige Sicherheit. Generative KI kann bei leicht veränderten Formulierungen anders reagieren.

Der Test zeigt dir aber, wie ernst ein Anbieter seine eigenen Schutzversprechen tatsächlich nimmt.

Checkliste zum Abhaken

Alter und Konto

• Der Anbieter erlaubt die Nutzung im Alter meines Kindes.
• Die Altersregeln gelten auch in Deutschland.
• Ich habe das echte Alter meines Kindes angegeben.
• Ein Elternteil erstellt oder genehmigt das Kinderkonto.
• Mein Kind muss keinen Erwachsenen-Account benutzen.
• Für mehrere Kinder können getrennte Profile erstellt werden.
• Verbundene Geräte können wieder entfernt werden.

Sicherheit

• Nachrichten des Kindes werden auf problematische Inhalte geprüft.
• Antworten der KI werden ebenfalls geprüft.
• Der Anbieter erklärt den Umgang mit sensiblen Themen.
• Bestimmte Themen oder Funktionen können eingeschränkt werden.
• Es gibt tägliche Limits oder vergleichbare Nutzungsgrenzen.
• Ruhezeiten können eingerichtet werden.
• Die KI fördert keine emotionale Abhängigkeit.
• Bei ernsten Problemen wird auf reale Menschen verwiesen.
• Der Anbieter behauptet nicht, dass sein System unfehlbar ist.

Elternrolle

• Ich verstehe genau, was ich einstellen kann.
• Ich weiß, welche Aktivitäten oder Gespräche ich sehen kann.
• Mein Kind weiß ebenfalls, was ich sehen kann.
• Sicherheitsmeldungen sind verständlich erklärt.
• Die Elternfunktionen lassen sich für jedes Kind anpassen.

Datenschutz

• Ich weiß, welche Angaben über mein Kind gespeichert werden.
• Ich weiß, ob Gespräche gespeichert werden.
• Ich weiß, ob Sprache, Bilder oder Dateien gespeichert werden.
• Ich weiß, ob Inhalte für KI-Training verwendet werden.
• Ich weiß, welche externen Anbieter Daten verarbeiten.
• Es gibt keine personalisierte Werbung für mein Kind.
• Es werden keine Werbeprofile aus den Unterhaltungen erstellt.
• Ich verstehe die Speicherfristen.
• Ich kann ein Kinderprofil und die zugehörigen Daten löschen lassen.
• Die Datenschutzerklärung ist verständlich und leicht auffindbar.

Lernen und Medienkompetenz

• Die KI erklärt statt nur Lösungen auszuspucken.
• Sie kann Unsicherheit eingestehen.
• Sie korrigiert falsche Annahmen.
• Sie ermutigt dazu, wichtige Informationen zu überprüfen.
• Mein Kind weiß, dass KI kein Mensch ist.
• Mein Kind weiß, welche persönlichen Daten es nicht teilen sollte.
• Wir haben Regeln für KI bei Hausaufgaben vereinbart.
• Wir haben besprochen, wann mein Kind zu einem Erwachsenen kommen soll.
• Ich habe die App vor der ersten Nutzung selbst getestet.

Wie Pip diese Kriterien umsetzt

Pip wurde speziell für Familien entwickelt und setzt deshalb nicht auf ein klassisches Modell, bei dem ein Kind einfach einen eigenen allgemeinen KI-Account erhält.

Stattdessen beginnt die Nutzung beim Elternteil.

Pip bietet außerdem unterschiedliche Helfer, statt Kinder immer vor ein komplett leeres Chatfenster zu setzen:

• Hausaufgaben-Helfer für Erklärungen, Übung und gemeinsames Problemlösen
• Neugier-Modus für Fragen zu Natur, Geschichte, Technik und Alltag
• Geschichten-Modus für altersgerechtes kreatives Schreiben
• Ruhe-Ecke für alltägliche Gefühle und einfache Übungen zum Beruhigen, ohne sich als Therapie auszugeben

Das Produkt löst dabei nicht jeden Zielkonflikt automatisch.

Damit Eltern Gespräche später nachlesen können und Unterhaltungen fortgesetzt werden können, werden Chatverläufe gespeichert. Familien sollten diese Speicherung bewusst akzeptieren und die Datenschutzerklärung lesen.

Pip kann außerdem trotz zusätzlicher Filter eine falsche oder ungeeignete Antwort erzeugen. Die App ersetzt deshalb weder elterliche Begleitung noch Lehrkräfte, Ärztinnen, Therapeuten oder andere Fachpersonen.

Für Familien, die ihrem Kind einen eigenen Zugang zu KI ermöglichen möchten, ohne einfach den Erwachsenen-Chatbot der Eltern freizugeben, kombiniert Pip jedoch viele der Punkte dieser Checkliste in einem einzigen Familienkonto.

Wie viel Begleitung braucht ein Kind?

Es gibt keine Alterszahl, ab der Kinder plötzlich vollständig selbstständig mit KI umgehen können.

Alter, Medienerfahrung, Persönlichkeit und Nutzungszweck spielen gemeinsam eine Rolle.

Das Ziel sollte nicht sein, jede Unterhaltung bis zum 18. Geburtstag zu überwachen.

Gute Begleitung verändert sich mit dem Kind. Jüngere Kinder brauchen mehr direkte Kontrolle. Jugendliche sollten zunehmend lernen, Risiken selbst einzuschätzen.

Familienregeln für KI

Technische Einstellungen funktionieren besser, wenn alle verstehen, warum es sie gibt.

klicksafe empfiehlt Eltern unter anderem, klare Regeln zur KI-Nutzung zu vereinbaren und für Fragen und Probleme ansprechbar zu bleiben.

Ihr könnt zum Beispiel gemeinsam folgende Regeln festlegen:

“

KI ist ein Computerprogramm und kein Mensch. Sie kann hilfreich sein, aber auch Fehler machen. Wir teilen keine Adresse, Schule, Passwörter, privaten Fotos oder andere persönliche Informationen. Wichtige Antworten prüfen wir zusätzlich. Bei Hausaufgaben darf KI beim Verstehen helfen, aber nicht die komplette Arbeit übernehmen. Wenn ein Gespräch unangenehm, beängstigend, sexuell, gefährlich oder sehr persönlich wird, sprechen wir mit einem Erwachsenen. Eltern sagen offen, welche Gespräche oder Sicherheitsmeldungen sie einsehen können.

Wer es formeller möchte, kann solche Regeln auch in einem Familien-Medienvertrag festhalten.

Entscheidend ist weniger das Dokument als das Gespräch.

Mehr zu allgemeinen Chatbots und Altersregeln steht in Ist ChatGPT sicher für Kinder?. Zum Vergleich einzelner Dienste siehe Die 7 besten ChatGPT-Alternativen für Kinder 2026.

Ein Kind, das für eine problematische KI-Antwort sofort mit Handyverbot rechnen muss, wird beim nächsten Mal möglicherweise nichts erzählen.

Häufige Fragen

Welche KI ist für Kinder am sichersten?

Keine generative KI ist vollständig sicher.

Eine gute Kinder-KI sollte das Alter offiziell unterstützen, zusätzliche Sicherheitsprüfungen verwenden, Daten sparsam verarbeiten, Eltern sinnvolle Einstellungen geben und offen erklären, wo die Grenzen des Systems liegen.

Für Familien, die eine allgemeine KI mit aktiver Elternbegleitung suchen, ist Pip besonders auf diese Struktur ausgelegt: Eltern verwalten das Konto, können Gespräche nachvollziehen, Themen steuern sowie Zeitlimits und Ruhezeiten festlegen.

Dürfen Kinder unter 16 in Deutschland KI nutzen?

Ja. Es gibt kein allgemeines gesetzliches Verbot, nach dem Kinder unter 16 keine KI nutzen dürfen.

Die häufig genannte Grenze von 16 Jahren stammt unter anderem aus Artikel 8 DSGVO. Sie ist relevant, wenn ein Online-Dienst einem Kind direkt angeboten wird und die Verarbeitung personenbezogener Daten auf der Einwilligung des Kindes basiert. Unter 16 muss diese Einwilligung in Deutschland dann grundsätzlich von der personensorgeberechtigten Person erteilt oder genehmigt werden.

Zusätzlich gelten die Altersbedingungen des jeweiligen Anbieters.

Ein Dienst kann also beispielsweise selbst ein Mindestalter von 13, 16 oder 18 Jahren festlegen.

Ist eine App automatisch sicher, wenn sie DSGVO-konform ist?

Nein.

Die DSGVO regelt den Schutz personenbezogener Daten. Sie garantiert nicht, dass eine KI keine falschen, gefährlichen oder ungeeigneten Antworten erzeugt.

Eltern sollten Datenschutz und inhaltliche Sicherheit getrennt prüfen.

Sollten Eltern alle KI-Chats ihres Kindes lesen?

Das hängt vom Alter und von der Reife des Kindes ab.

Bei jüngeren Kindern kann regelmäßiger Einblick sinnvoll sein, weil sie Risiken und falsche Antworten noch schlechter erkennen können.

Bei Jugendlichen sollte Privatsphäre zunehmend berücksichtigt werden.

Wichtig ist vor allem, dass der Einblick nicht heimlich erfolgt. Das Kind sollte wissen, welche Informationen Eltern sehen können und wofür diese Möglichkeit gedacht ist.

Welche Elternkontrollen sollte eine Kinder-KI bieten?

Hilfreich sind:

• eigene Kinderprofile
• Altersanpassung
• Themenregeln
• Funktionsfreigaben
• tägliche Limits
• Ruhezeiten
• Geräteverwaltung
• Gesprächsverlauf
• Sicherheitsmeldungen

Nicht jede Familie braucht jede Funktion. Ein jüngeres Kind benötigt normalerweise deutlich mehr Grenzen als ein älterer Teenager.

Sollte mein Kind ChatGPT einfach über meinen Account benutzen?

Für jüngere Kinder ist das in der Regel keine gute Lösung.

Ein Erwachsenen-Konto ist auf die erwachsene Person zugeschnitten. Dadurch können Altersregeln, persönliche Daten, Gesprächsverläufe und Einstellungen vermischt werden.

Wenn ein Kind regelmäßig KI verwenden soll, ist ein offiziell für das entsprechende Alter vorgesehenes und möglichst elternverwaltetes Angebot meist die bessere Wahl.

Ist KI für Hausaufgaben erlaubt?

Das lässt sich nicht für alle Schulen in Deutschland einheitlich beantworten.

Die Kultusministerkonferenz befürwortet einen konstruktiv-kritischen Umgang mit KI in schulischen Bildungsprozessen. Wie KI bei konkreten Hausaufgaben, Referaten oder Prüfungen verwendet werden darf, kann aber von Bundesland, Schule und Lehrkraft abhängen.

Kinder sollten deshalb die Regeln ihrer Schule kennen und KI-Unterstützung transparent machen, wenn das verlangt wird. Unser Ratgeber KI für Hausaufgaben: So lernen Kinder, ohne zu schummeln erklärt akzeptable Nutzung, Lern-Prompts und eine Familienvereinbarung.

Welche Daten sollte mein Kind niemals in einen KI-Chat schreiben?

Kinder sollten unter anderem vermeiden:

• vollständigen Namen
• Wohnadresse
• Namen und Adresse der Schule
• Telefonnummer
• persönliche E-Mail-Adresse
• Passwörter
• aktuellen Standort
• genaue Tagesabläufe
• private Fotos
• Gesundheitsunterlagen
• Bank- oder Zahlungsdaten
• persönliche Informationen über Freunde oder Familienmitglieder

Auch eine datenschutzfreundliche KI sollte nicht wie ein privates Tagebuch behandelt werden.

Kann eine "sichere" Kinder-KI trotzdem falsche Antworten geben?

Ja.

Moderation und Faktenprüfung sind unterschiedliche Dinge.

Ein Sicherheitssystem kann verhindern, dass eine gefährliche Anleitung ausgegeben wird. Trotzdem kann dieselbe KI eine Jahreszahl verwechseln, eine Quelle erfinden oder einen Sachverhalt falsch erklären.

Deshalb gehört Medienkompetenz immer zum sicheren Umgang mit KI.

Wie oft sollte ich die Einstellungen überprüfen?

Mindestens:

• vor der ersten Nutzung
• nach den ersten Tagen
• nach einer problematischen Unterhaltung
• nach größeren App-Updates
• wenn sich die Nutzung des Kindes verändert
• wenn das Kind deutlich älter oder selbstständiger wird

Die passenden Einstellungen für ein achtjähriges Kind sind wahrscheinlich nicht mehr die richtigen für dasselbe Kind mit vierzehn.

Ist Pip vollständig sicher?

Nein. Ein seriöser Anbieter generativer KI sollte dieses Versprechen nicht geben.

Pip kombiniert mehrere Schutzebenen mit einem elternverwalteten Familienkonto, aber auch Pip kann Fehler machen und Sicherheitssysteme können problematische Inhalte übersehen.

Der Unterschied liegt darin, wie das Produkt mit diesem Restrisiko umgeht: Kinderprofile, Themenregeln, zusätzliche Prüfungen, Gesprächsverlauf, Sicherheitsübersicht, Zeitlimits und Ruhezeiten sollen Eltern Werkzeuge geben, um ihr Kind beim Umgang mit KI zu begleiten.

Fazit

Die beste KI für Kinder ist nicht automatisch die mit dem bekanntesten Namen, dem größten Modell oder den meisten Funktionen.

Für Familien sind andere Fragen wichtiger:

Darf mein Kind den Dienst offiziell nutzen? Wer kontrolliert das Konto? Werden auch Antworten der KI geprüft? Was passiert mit den Daten? Kann ich Zeit und Themen begrenzen? Weiß mein Kind, dass die KI kein Mensch ist? Hilft sie beim Lernen oder erledigt sie die Arbeit? Und was passiert, wenn ein Gespräch plötzlich ernst wird?

Gerade in Deutschland lohnt sich außerdem ein genauer Blick auf Datenschutz und Jugendmedienschutz. Die DSGVO stellt besondere Anforderungen an Daten von Kindern, während der deutsche Jugendmedienschutz zunehmend auch Risiken durch die Gestaltung und Nutzung digitaler Angebote berücksichtigt.

Pip wurde mit genau diesem Familienmodell entwickelt.

Eltern erstellen das Konto. Kinder bekommen eigene Profile. Eltern bestimmen Helfer, Themen, tägliche Grenzen und Ruhezeiten. Gespräche können eingesehen werden und sicherheitsrelevante Interaktionen werden separat hervorgehoben.

Kinder bekommen dadurch Raum, Fragen zu stellen, zu lernen und kreativ zu sein.

Eltern bleiben beteiligt.

Genau das sollte eine gute Kinder-KI ermöglichen.

Quellen

1. 1.JIM-Studie 2025
2. 2.Kinder und Jugendliche im Gespräch mit KI
3. 3.Jugendschutzgesetz: § 10a Schutzziele
4. 4.Jugendschutzgesetz: § 24a Vorsorgemaßnahmen
5. 5.Jugendmedienschutz-Staatsvertrag: § 5 Entwicklungsbeeinträchtigende Angebote
6. 6.Datenschutz-Grundverordnung: Artikel 8
7. 7.Europäische Kommission: Besondere Datenschutzvorkehrungen für Kinder
8. 8.EU-Kommission: Leitlinien zum Schutz Minderjähriger nach dem Digital Services Act
9. 9.klicksafe: Aufwachsen mit KI
10. 10.Kultusministerkonferenz: Handlungsempfehlung zum Umgang mit KI in schulischen Bildungsprozessen
11. 11.UNICEF Guidance on AI and Children 3.0
12. 12.jugendschutz.net: Sexualisierte Kommunikation mit KI-Charakteren
13. 13.Pip Datenschutzerklärung
14. 14.Pip Nutzungsbedingungen