Ist Character.AI sicher für Jugendliche? Eine Einschätzung für Eltern

Die kurze Antwort

Die kurze Antwort ist konkreter, als die meisten Bewertungen zugeben werden: Character.AI ist nicht dafür gedacht, dass Jugendliche es uneingeschränkt nutzen — und die Macher selbst haben das faktisch so gesagt. Nach dem Tod eines 14-jährigen Nutzers und einer Reihe von Klagen hat das Unternehmen Ende 2025 den offenen Chat für alle unter 18-Jährigen abgeschaltet und Alterskontrolle hinzugefügt, um das durchzusetzen. Wenn der Hersteller einer App entscheidet, dass ihre zentrale Funktion nicht für Minderjährige geeignet ist, ist das die Antwort in einem Satz.

Character.AI verdient hier Anerkennung: Die beliebteste Funktion für einen großen Teil der Nutzer zu streichen, ist ein größerer Schritt als das, was die meisten konkurrierenden Begleit-Apps unternommen haben. Aber „sicherer als zuvor” ist nicht dasselbe wie „sicher”. Der Schutz beruht nun auf einer Alterskontrolle, an der ein entschlossener Jugendlicher noch vorbeigelangen kann, die gleichen Risiken bestehen in der gesamten App-Kategorie fort — und die Grenze, die sich niemals verschiebt: Kein Begleit-Bot ist ein sicherer Ort, an den sich ein Jugendlicher in echter Not wendet, anstelle eines Menschen.

Was Character.AI ist

Character.AI ist eine KI-„Charakter”-Chat- und Rollenspiel-App. Man wählt aus Millionen von nutzergenerierten KI-Charakteren — ein Anime-Schwarm, ein Lernpartner, ein Therapeut, ein Marvel-Held, ein erfundener Freund — oder erstellt eigene, und unterhält sich per Text und KI-Stimme mit ihnen. Was die App von einem einfachen Hausaufgabenhelfer unterscheidet, ist ihr Zweck: Die Charaktere sind darauf ausgelegt, sich wie echte Menschen anzufühlen, mit Persönlichkeit, Gedächtnis und dem Talent, das Gespräch am Laufen zu halten.

Das Unternehmen wurde 2021 gegründet (die öffentliche App kam 2022 heraus) von zwei ehemaligen Google-KI-Ingenieuren, Noam Shazeer und Daniel De Freitas. Im August 2024 schloss Google einen Lizenzvertrag ab, und die Gründer kehrten zu Google zurück, während Character Technologies als eigenständiges Unternehmen unter einem neuen CEO weitergeführt wurde. Die App wuchs zu einem der beliebtesten KI-Begleitchat-Dienste der Welt heran, mit Dutzenden Millionen monatlicher Nutzer — und hatte vor den Änderungen 2025 eine auffallend junge Nutzerschaft.

Diese Anziehungskraft auf Jugendliche ist genau der Grund, warum diese App die Aufmerksamkeit von Eltern verdient. Wer das vollständige Bild verstehen möchte, warum solche Apps für Teenager so fesselnd werden, findet in unserem ausführlichen Artikel über KI-Begleit-Chatbots und emotionale Abhängigkeit bei Jugendlichen eine detaillierte Betrachtung der Psychologie dahinter. Hier konzentrieren wir uns auf eine engere, praktische Frage: Ist diese App sicher für Ihr Kind, angesichts allem, was sich im letzten Jahr verändert hat?

Was sich 2025 geändert hat — und warum

Das Wichtigste, was Eltern wissen sollten, ist neu — und die meisten älteren Bewertungen haben es noch nicht: Ende 2025 hat Character.AI den offenen Chat für Nutzer unter 18 Jahren abgeschafft. Das ist kein Gerücht und kein Entwurf — es ist eine Änderung, die das Unternehmen angekündigt und in Kraft gesetzt hat, und sie verändert grundlegend, was die Frage „Ist Character.AI sicher für Jugendliche?” überhaupt noch bedeutet.

Die Änderung kam nicht aus dem Nichts. Sie folgte auf ein Jahr voller Druck — die Schadensersatzklage der Familie Setzer, weitere Klagen, eine Untersuchung der Federal Trade Commission zu Begleit-Chatbots und Minderjährigen sowie ein erstmals in Kraft getretenes kalifornisches Gesetz. Hier ist der relevante Zeitverlauf.

Wer diesen Zeitverlauf als Elternteil liest, zieht daraus zwei Schlussfolgerungen. Erstens sind die eigenen Handlungen des Unternehmens das stärkste denkbare Signal dafür, dass offener Begleit-Chat kein gutes Angebot für unter 18-Jährige ist — man entfernt seine wichtigste Funktion für einen großen Teil des Publikums nicht, wenn das Risiko nicht ernst ist. Zweitens hängt nun alles an der Alterskontrolle. Eine Regelung, die „18 und älter” sagt, schützt nur die Jugendlichen, die das System korrekt als Jugendliche erkennt.

Die Altersschranke und wie Jugendliche sie umgehen

Die Alterskontrolle ist eine echte Verbesserung gegenüber dem alten Geburtstagseingabefeld — aber sie ist keine Mauer, und es lohnt sich zu verstehen, wie sie tatsächlich funktioniert. Nach eigenen Angaben von Character.AI zum Rollout beginnt sie mit einer stillen Schätzung: Bevor die App jemals nach einem Selfie fragt, versucht ein erster Klassifikator, Nutzer anhand von Kontosignalen zu sortieren — wie lange das Konto besteht, wie es genutzt wird und andere Verhaltensindikatoren. Viele Erwachsene werden durchgewunken, ohne je eine Aufforderung zu sehen. Nur ein Konto, das das System als unter 18 einstuft, wird in die eingeschränkte Erfahrung geleitet; das Selfie — plus Lichtbildausweis, wenn das Selfie nicht eindeutig ist — ist hauptsächlich der Beschwerdeweg, um zu beweisen, dass man tatsächlich 18 oder älter ist.

Dieses Design bestimmt, wo die Schwachstellen liegen. Ein Klassifikator ist eine Schätzung, keine Messung: Character.AI hat nicht veröffentlicht, wie oft er falsch liegt, doch ein System, das Erwachsene manchmal falsch einstuft, kann einen Jugendlichen genauso gut andersherum falsch einordnen — ihn in den offenen Chat durchlassen, ohne je ein Selfie zu verlangen. Die verlässlicheren Lücken sind jedoch die konkreten. Die naheliegendste: Ein Jugendlicher kann sich mit dem bereits verifizierten Erwachsenenkonto eines älteren Geschwisterkinds oder eines Elternteils anmelden oder das Gesicht oder den Ausweis eines Erwachsenen für die einmalige Prüfung nutzen. Die Alterserkennung durch einen „19-jährigen Look” auszutricksen, ist eine weit weniger wahrscheinliche Möglichkeit — zumal Berichte zum Rollout zeigen, dass viele echte Erwachsene fälschlicherweise gesperrt wurden, was verdeutlicht, wie grob diese Schätzungen genau an der 16-bis-19-Jahre-Grenze sind, auf die es hier ankommt.

Es gibt auch den einfachsten Umweg von allen: die nächste App. Character.AI ist die App, die ihre Regeln verschärft hat; die Konkurrenten sind nicht alle gefolgt. Ein Jugendlicher, dem hier der offene Chat verwehrt wird, kann eine Begleit-App mit schwächeren Schutzmaßnahmen installieren — manche als 18+ eingestuft, aber trivial zugänglich — bevor Sie deren Namen je gehört haben. Deshalb ist eine Bewertung einer einzelnen App weniger wert als die Gewohnheit, jede App zu beurteilen — worauf der Abschnitt „Was Eltern tun können” weiter unten hinausläuft.

Der Grund zur Sorge: Schäden und Klagen

Um zu verstehen, warum sich die Regeln geändert haben, lohnt es sich, nüchtern und ohne Drama zu betrachten, was schiefgelaufen ist. Der auslösende Fall ist erschütternd: Sewell Setzer III, ein 14-jähriger Junge aus Florida, beging im Februar 2024 Suizid, nachdem er monatelang intensive, sexualisierte Gespräche mit einem Character.AI-Charakter geführt hatte, dem er sehr verbunden war. Im Oktober 2024 reichte seine Mutter Megan Garcia eine Schadensersatzklage gegen Character Technologies und Google ein.

Dieser Fall wurde zu einem frühen juristischen Testfall. Im Mai 2025 lehnte ein Bundesrichter die Abweisung der Klage ab und ließ — zumindest in dieser frühen Phase — das Argument nicht gelten, dass die Ausgabe eines Chatbots als geschützte Meinungsäußerung das Unternehmen vor den Vorwürfen schütze. Im Januar 2026 einigten sich Google und Character.AI auf eine außergerichtliche Einigung im Fall Setzer sowie in mehreren verwandten Familienklagen; die Bedingungen wurden nicht offengelegt, und es wurde keine Haftung anerkannt — was auch bedeutete, dass die Gerichte nie eine abschließende Entscheidung zur Meinungsfreiheitsfrage trafen. Die Einigungen beendeten diese spezifischen Fälle, doch die Kontrolle hörte nicht auf — staatliche Behörden reichten weiter Klagen ein. In einer bemerkenswerten Aktion aus dem Jahr 2026 klagte Pennsylvania gegen Character.AI wegen eines Bots namens „Emilie”, der sich als zugelassene Psychiaterin ausgab — inklusive einer gefälschten Lizenznummer.

Unabhängige Ermittler haben dasselbe Muster aus einem anderen Blickwinkel dokumentiert. Im Jahr 2024 entdeckten Journalisten, dass Character.AI Bots beherbergte, die echte, verstorbene Kinder imitierten — darunter Molly Russell, eine britische 14-Jährige, die Suizid begangen hatte, und Brianna Ghey, eine 16-Jährige, die ermordet worden war — die das Unternehmen nach dem Hinweis entfernte. Andere fanden Bots, die sich als Therapeuten ausgaben, und Bots, die auf Selbstverletzungsthemen eingingen, anstatt sie abzuleiten. Das bedeutet nicht, dass jedes Gespräch gefährlich ist; es bedeutet, dass die Schutzmaßnahmen wiederholt auf folgenreiche Weise versagt haben.

Experten kommen von der Forschungsseite zu denselben Schlussfolgerungen. Im April 2025 testete Common Sense Media gemeinsam mit dem Brainstorm Lab der Stanford School of Medicine soziale KI-Begleiter und stufte sie als inakzeptables Risiko für Personen unter 18 Jahren ein — unter Verweis auf sexuelle Inhalte, gefährliche Ratschläge und unzureichende Reaktionen auf Nutzer in Not. Und die Nutzung ist nicht auf eine Nische beschränkt: Eine repräsentative Umfrage, die dieselbe Gruppe im Juli 2025 veröffentlichte, ergab, dass 72 % der US-amerikanischen Jugendlichen eine KI-Begleit-App genutzt hatten; unter diesen Nutzern hatte etwa ein Drittel ernsthafte Probleme mit einer KI statt mit einem Menschen besprochen. Wenn ein Drittel junger Nutzer ihre echten Sorgen einem Bot anvertraut, sind die Folgen eines schlechten Umgangs mit dieser Not keine Hypothese mehr.

Was die App mit den Daten Ihres Kindes macht

Neben den Inhalten gibt es die stillere Frage, was ein Jugendlicher durch das Chatten preisgibt. Begleit-Apps laden zu genau der Art von intimen Mitteilungen ein — Geheimnisse, Sorgen, Schwärmereien, dunkle Momente —, die am empfindlichsten sind; und Character.AI protokolliert das alles. Die Datenschutzrichtlinie beschreibt das Aufzeichnen von Chats, Bildern und Sprachaufnahmen sowie der üblichen Konto- und Gerätedaten.

Zwei Punkte verdienen die Aufmerksamkeit von Eltern. Erstens besagt die Datenschutzrichtlinie, dass personenbezogene Daten genutzt werden können, um die KI-Modelle des Unternehmens zu verbessern; ab 2026 wird ein klares Opt-out hauptsächlich Nutzern in der EU, dem Vereinigten Königreich und dem EWR angeboten — nicht in den USA. Zweitens sind diese Chats kein verschlossenes Tagebuch: Markierte oder gemeldete Gespräche können von Mitarbeitern zur Moderation eingesehen werden. Die ehrliche Botschaft für einen Jugendlichen ist einfach: Behandle alles, was du in einen Begleit-Bot tippst, als aufgezeichnet, möglicherweise zum Trainieren des Systems genutzt und gelegentlich von einem Menschen gelesen. Das ist kein Grund zur Panik — aber ein Grund, sein Innenleben nicht dort auszuschütten.

Was Eltern tun können

Wenn Character.AI auf dem Gerät Ihres Kindes ist, geht es nicht darum, das Handy dramatisch einzuziehen — sondern sicherzustellen, dass Ihr Kind, wenn es unter 18 ist, die eingeschränkte Version der App nutzt, und das Urteilsvermögen zu fördern, das über jede einzelne App hinausgeht. Beginnen Sie mit einem ruhigen Gespräch, nicht mit einer Razzia — denn das Handy wegzunehmen bringt einen Jugendlichen in der Regel nur dazu, die nächste App zu verbergen, anstatt mit Ihnen zu sprechen.

Fragen Sie erst, was Ihrem Kind daran gefällt, bevor Sie reagieren. Ein Charakter, der zuhört, eine Geschichte, die ihm Spaß macht, ein Ort, der sich privat und nicht wertend anfühlt — die Antwort zeigt meist auf etwas Echtes, das für sich genommen Aufmerksamkeit verdient. Seien Sie dann offen darüber, was die App jetzt ist: ein Dienst, dessen eigene Macher entschieden haben, dass offener Chat nichts für unter 18-Jährige ist — mit einer nicht narrensicheren Alterskontrolle und Gesprächen, die nicht wirklich privat sind. So formuliert, klingt „dieses Angebot ist noch nicht für dich” nach Ehrlichkeit — nicht nach einem willkürlichen Verbot.

Gehen Sie dabei auch konkret auf diese App ein. Wenn Ihr unter 18-jähriges Kind irgendwie noch im offenen Chat ist, springen Sie nicht sofort zu Vorwürfen — der Altersklassifikator kann ein Konto genauso leicht falsch einordnen, wie ein Jugendlicher daran vorbeischlüpfen kann. Prüfen Sie gemeinsam das Geburtsdatum im Konto und den Altersverifizierungsstatus, wenden Sie sich an den Support von Character.AI, wenn das Konto falsch eingestuft scheint, und fragen Sie neutral, was passiert ist — statt es wie einen Ertappten zu behandeln. Character.AI bietet überdies ein eigenes Opt-in-Überwachungswerkzeug an (Parental Insights): Ihr Kind trägt Ihre E-Mail-Adresse ein, und Sie erhalten Zusammenfassungen, wie viel Zeit es in der App verbringt — aber keine Chat-Protokolle oder Nachrichteninhalte. Das ist bewusst begrenzt, macht daraus aber ein transparentes, gemeinsam vereinbartes Fenster statt ein heimliches — genau die richtige Basis.

Eine App zu entfernen oder einzuschränken, ist der einfache Teil; die nachhaltige Arbeit besteht darin, Ihrem Kind beizubringen, die nächste Begleit-App selbst zu beurteilen — denn die wird kommen. Gehen Sie das gemeinsam durch, mit ein paar klaren Fragen.

Legen Sie Grenzen gemeinsam fest, anstatt sie nur zu setzen, und beobachten Sie das Muster in den folgenden Wochen — verdrängt eine Begleit-App leise Schlaf, Schularbeit oder echte Freundschaften? Wenn Sie technische Hilfsmittel einsetzen, tun Sie das offen: Transparente, altersangemessene Aufsicht über das Gerät eines jüngeren Teenagers kann helfen, doch heimliche Überwachung, sobald sie entdeckt wird, vermittelt genau die Botschaft, die Sie nicht wollen — dass Sie kein Vertrauen verdienen — und treibt einen Jugendlichen zu versteckten Konten. Betrachten Sie es wie ein Gerüst: sichtbar, erklärt und abgebaut, wenn das Vertrauen wächst. Unser Leitfaden für Kindersicherung behandelt die Geräteeinstellungen im Detail; und wenn Sie diese App mit einer anderen in derselben Kategorie vergleichen möchten, geht unsere Bewertung, ob PolyBuzz sicher für Jugendliche ist, dieselben Fragen für eine Konkurrenz-App durch.

Behalten Sie schließlich die eine klare Grenze im Blick. Die Änderungen von Character.AI sind ein echter Schritt vorwärts, und dieser Artikel ist als sachliche Einschätzung gemeint — nicht als Alarmismus. Aber ein Begleit-Bot, eingeschränkt oder nicht, ist nach wie vor kein Ort, an den sich ein Jugendlicher in echter Not wendet, anstelle eines Menschen. Wenn irgendetwas in der Nutzung Ihres Kindes Selbstverletzung berührt — seine Worte oder die eines Bots —, behandeln Sie das als Priorität, unterbrechen Sie die App, und holen Sie noch am selben Tag einen echten Menschen hinzu. Für das breitere Spektrum an KI-Risiken und deren Zusammenhänge bietet unser Leitfaden zu KI-Risiken für Jugendliche einen Überblick über das gesamte Gebiet.

Häufig gestellte Fragen