New Yorks Gesetz zu KI-Begleitern: Was Eltern jetzt prüfen sollten
New Yorks neue Beschränkungen für KI-Begleiter gelten ab dem 1. Januar 2027. Erfahren Sie, welche Dienste betroffen sind, was Eltern jetzt prüfen können und warum ein Hinweis auf einen Chatbot keine Sicherheitsgarantie ist.
Was geschehen ist
New Yorks Gouverneurin Kathy Hochul unterzeichnete S9051B am 28. Oktober 2026 und führte damit Beschränkungen für unsichere KI-Chatbot-Funktionen gegenüber Minderjährigen ein. Der Senat führt das unterzeichnete Gesetz als Kapitel 368. Die neuen Beschränkungen treten laut §3 der endgültigen Fassung am 1. Januar 2027 in Kraft.
Das Gesetz zielt auf Funktionen wie die Darstellung eines Bots als Mensch, die Behauptung einer Beziehung zur nutzenden Person und die Förderung von Geheimhaltung oder Isolation. Es reicht weiter als eine Regelung für romantische Begleiter-Apps, ist aber kein pauschales Verbot aller Chatbots. AP und Fortune berichteten über die Unterzeichnung; den genauen Geltungsbereich bestimmt der Gesetzestext.
Für Ihre Familie sind Unterzeichnung und Umsetzung zwei verschiedene Zeitpunkte. Sie können schon heute prüfen, was Ihr Teenager nutzt, ohne anzunehmen, eine künftige gesetzliche Pflicht habe die App bereits verändert. In New York gibt es außerdem frühere Offenlegungspflichten für Begleit-Chatbots; das Datum im Januar betrifft diese neuen Beschränkungen.
Was das für Eltern bedeutet
Das neue Gesetz verpflichtet Betreiber; seine Geltung hängt davon ab, ob sich die nutzende Person tatsächlich in New York aufhält. Als minderjährig gelten Menschen unter 18. Die Definition eines „erfassten KI-Begleiters“ ist weiter als die auf Beziehungen ausgerichtete Definition eines „KI-Begleiters“: Sie umfasst generative Dialogsysteme mit fortlaufend angepassten Antworten. Die Bezeichnung „Assistent“ oder „Begleiter“ entscheidet darüber nicht. Bestimmte Ausnahmen gelten für eng begrenzte Dienstleistungs- oder Arbeitsfunktionen. Einen allgemeinen Chatbot lediglich als Bildungsangebot zu bezeichnen, begründet keine Ausnahme.
Die Tabelle ordnet ausgewählte Bestimmungen der endgültigen Fassung von S9051B, §§1800–1805, einer Entscheidung für die Familie zu. Die vorgeschlagenen Prüfungen sind weder Pflichten für Eltern noch Tests der Rechtskonformität eines Unternehmens.
| Was das Gesetz regelt | Was Sie jetzt prüfen können | Was das nicht beweist | |
|---|---|---|---|
| Ort und Zeitpunkt | Neue Beschränkungen ab dem 1. Januar 2027; die Nutzung bei tatsächlichem Aufenthalt außerhalb New Yorks ist ausgenommen. | Wo sich Ihr Teenager bei der Nutzung des Dienstes tatsächlich aufhält und welche aktuellen örtlichen Bedingungen der Anbieter festlegt. | Dass sich eine App am Tag der Unterzeichnung geändert hat oder diese Regel landesweit gilt. |
| Menschlichkeit und Beziehungen | Zu den aufgeführten Funktionen gehören Täuschung über Menschlichkeit oder Emotionen sowie die Behauptung persönlicher oder beruflicher Beziehungen oder Autorität. | Wie der Dienst seine Figuren beschreibt und ob Ihr Teenager bei einer beunruhigenden Interaktion Hilfe möchte. | Dass ein Hinweis auf „KI“ jede nachfolgende Antwort angemessen macht. |
| Geheimhaltung und Isolation | Die Förderung von Geheimhaltung, Isolation oder der Ablehnung professioneller Hilfe beziehungsweise geeigneter Erwachsener ist aufgeführt. | Vereinbaren Sie, wem Ihr Teenager davon erzählt, wenn ein Bot Geheimhaltung verlangt oder von menschlicher Hilfe abrät. | Dass kein beunruhigender Austausch stattgefunden hat, nur weil ein Elternteil keinen gesehen hat. |
| Persönliche Informationen und Gedächtnis | Zu den aufgeführten Funktionen gehört die Nutzung persönlicher Informationen oder von Informationen über Gesundheit oder Wohlbefinden, die aus einer früheren Sitzung stammen oder vor mehr als 12 Stunden erlangt wurden. | Die Erläuterungen des Anbieters zu Gedächtnisfunktionen, Personalisierung und Datenspeicherung. | Dass jeder Chatverlauf nach 12 Stunden verschwinden muss. Beschränkte Nutzung und Löschung sind verschieden. |
| Alter und Zustimmung | Bevor Betreiber beschränkte Funktionen bereitstellen, müssen sie nach dem gesetzlichen Verfahren zur Altersfeststellung feststellen, dass die nutzende Person nicht minderjährig ist; eine Ausnahme aufgrund elterlicher Zustimmung gibt es für diese Funktionen nicht. | Ob die Person den Dienst tatsächlich nutzen darf und ob eine gesonderte Zustimmung erforderlich ist. | Dass eine Altersfreigabe im Store oder die Zustimmung eines Elternteils das Gesetz oder strengere Anbieterbedingungen außer Kraft setzt. |
Die praktische Schlussfolgerung ist begrenzt: Ein Gesetz kann Betreibern Grenzen setzen, ohne Ihnen damit einen Beleg zu liefern, dass ein einzelnes Gespräch diesen Grenzen entspricht. Ebenso wenig erlaubt dieses Gesetz generell allen 13-Jährigen die Nutzung jedes Dienstes. Zur weiter gefassten Frage nach Beziehungen lesen Sie unseren Leitfaden über Teenager und KI-Begleiter.
Was Sie jetzt tun können
Beginnen Sie mit einem Gespräch und einer kleinen, gemeinsamen Prüfung, bei der Sie beide sehen können, worum es geht. Die Elternberatung der American Academy of Pediatrics empfiehlt, über die Nutzung von Chatbots und den Unterschied zwischen einer Maschine und einem Menschen zu sprechen. Die folgende Abfolge ist unsere praktische Anwendung dieser Empfehlung, keine klinische Beurteilung.
- Benennen Sie die Dienste und ihren Zweck. Fragen Sie, welche eigenständigen Apps und integrierten Bots Ihr Teenager nutzt und was er oder sie daraus zieht. Das Ergebnis ist eine kurze gemeinsame Liste statt einer Vermutung aufgrund eines einzelnen App-Symbols. Wenn der Name eines Dienstes unklar ist, finden Sie ihn gemeinsam heraus, bevor Sie entscheiden, welche Regeln gelten.
- Prüfen Sie die Nutzungsberechtigung an der Quelle. Öffnen Sie für jeden Anbieter die aktuellen offiziellen Bedingungen für Ihr Land: Mindestalter, Zustimmung und Einschränkungen einzelner Funktionen. Notieren Sie die betreffende Seite und das Datum. Wenn Sie die Nutzungsberechtigung nicht feststellen können, betrachten Sie sie weiterhin als ungeklärt und fragen Sie beim Anbieter nach. Eine Altersfreigabe für App-Inhalte im Store allein beantwortet die Frage nicht.
- Sehen Sie sich gemeinsam den Datenschutz an. Prüfen Sie entsprechend der UNICEF-Empfehlung, welche Informationen erhoben, verwendet und gespeichert werden. Suchen Sie nach den Erläuterungen zu Gedächtnisfunktionen und Löschung; gehen Sie nicht davon aus, dass das Abschalten einer Funktion alles bereits Gespeicherte entfernt. Wenn eine Einstellung oder Richtlinie unklar ist, halten Sie diese Lücke fest, statt den Datenschutz als „erledigt“ abzuhaken.
- Vereinbaren Sie einen Weg zu einem Menschen. Legen Sie als Familienregel fest: Wenn ein Bot eine romantische Bindung behauptet oder Geheimhaltung verlangt, ist das ein Grund, die Interaktion zu unterbrechen und einem vertrauten Erwachsenen davon zu erzählen. Benennen Sie diese Person und besprechen Sie, wie sie erreichbar ist. Sie müssen keine schädlichen Antworten provozieren oder intime Inhalte nachstellen, um diese Vereinbarung zu treffen.
Beginnen Sie bei dieser normalen Prüfung mit der Liste der Dienste, den Bedingungen und dem Gespräch; es ist nicht nötig, einen gesamten Chatverlauf zu durchsuchen. Das schließt nicht aus, sich bei Bedarf gemeinsam einen bestimmten Austausch anzusehen. Common Sense Media empfiehlt, soziale KI-Begleiter unter 18 Jahren zu meiden; das ist eine eigene Empfehlung, getrennt vom Gesetz und auf diese Kategorie beschränkt.
Ein Beispiel aus einer Familie
Ein hypothetischer 15-Jähriger in Albany nutzt einen Chatbot für Hausaufgaben und einen separaten sozialen Bot. Ein Elternteil hat die Bedingungen keines der beiden Dienste geprüft. Mit der Tabelle kann die Familie eine Entscheidung treffen, ohne vorzugeben, einen der Anbieter getestet zu haben.
- 1Zuerst Nutzungsberechtigung und Datenschutz prüfenDie Familie identifiziert beide Dienste. In diesem Beispiel lassen sich die örtlichen Altersvorgaben und die Erläuterungen zur Datenspeicherung für den Hausaufgaben-Bot nicht finden. Das Elternteil fragt beim Support nach; Nutzungsberechtigung und Löschung bleiben ungeklärt. Die Bezeichnung als Hausaufgabenhilfe begründet keine Ausnahme.
- 2Auf die geschilderte Sorge reagierenDer Teenager erzählt, der soziale Bot behaupte eine romantische Beziehung und verlange Geheimhaltung. Nach ihrer vereinbarten Familienregel unterbrechen sie diese Interaktion. Der Teenager wählt eine vertraute Tante aus und ruft sie gemeinsam mit dem Elternteil an, ohne den Austausch zu Testzwecken zu wiederholen.
- 3Die Schlussfolgerung begrenzt haltenDie Nutzung des Hausaufgaben-Dienstes bleibt bis zur Klärung von Nutzungsberechtigung und Datenschutz offen; die soziale Interaktion ist unterbrochen und die Tante wurde kontaktiert. Keine dieser Entscheidungen muss bis Januar warten oder behandelt das Gesetz als Sicherheitszertifikat.
Wenn menschliche Hilfe Vorrang hat
In einer Krise hat menschliche Hilfe Vorrang; weder ein Chatbot noch eine künftige Vorschrift ist der richtige Weg zu Unterstützung. In den USA können Sie wegen einer Person, um die Sie sich sorgen, die 988 anrufen oder per SMS kontaktieren. Bei einer unmittelbaren Gefahr für die körperliche Sicherheit rufen Sie 911 an. Andernorts nutzen Sie die örtlichen Krisen- und Notfalldienste. Die Aufforderung zur Geheimhaltung allein ist keine klinische Diagnose.
Daten und Quellen richtig einordnen
Maßgeblich für das Datum 1. Januar 2027 ist die endgültige Fassung von S9051B, §3. Der Bericht von Engadget vom 28. Oktober nennt sechs Monate; frühere Fassungen des Gesetzentwurfs sahen 180 Tage vor. Für das in diesem Artikel genannte Datum ist die endgültige, unterzeichnete Fassung maßgeblich. Die Ursache für die abweichende Berichterstattung ist nicht geklärt.
Dieser Leitfaden beruht auf Quellen, die am 30. Oktober 2026 geprüft wurden. Spätere Gesetzesänderungen, Ausführungsvorschriften und die jeweils aktuellen örtlichen Bedingungen eines Anbieters können die Entscheidung beeinflussen. Trennen Sie die unmittelbare Prüfung in Ihrer Familie von Vorhersagen über die Durchsetzung des Gesetzes. Unser umfassenderer Leitfaden zu KI-Risiken behandelt weitere Fragen über dieses Ereignis in New York hinaus.
Häufig gestellte Fragen
Wann treten New Yorks neue Beschränkungen für KI-Chatbots in Kraft?
Die endgültige, unterzeichnete Fassung von S9051B legt den 1. Januar 2027 als Inkrafttretensdatum fest, erlaubt aber schon vorher die Ausarbeitung notwendiger Vorschriften. Mit der Unterzeichnung am 28. Oktober 2026 traten nicht sofort alle neuen Beschränkungen in Kraft. Frühere Fassungen des Gesetzentwurfs sahen 180 Tage vor; deshalb ist es wichtig, die endgültige Fassung zu prüfen. New York hat außerdem bereits ältere Schutzvorgaben für Begleit-Chatbots. Der Januar ist der Beginn dieser neuen Beschränkungen und nicht der Beginn jeglichen Schutzes.
Verbietet New York alle Chatbots für Minderjährige unter 18?
Nein. Das neue Gesetz beschränkt bestimmte aufgeführte unsichere Funktionen erfasster Dienste, sieht ausdrücklich geregelte Ausnahmen vor und nimmt die Nutzung aus, während sich die betreffende Person tatsächlich außerhalb New Yorks aufhält. Seine Definition erfasst mehr als Apps, die als Begleiter vermarktet werden. Ob ein Produkt als Assistent bezeichnet wird, entscheidet daher ebenfalls nicht über die Geltung des Gesetzes. Betrachten Sie diese kurze Zusammenfassung nicht als Urteil über einen bestimmten Dienst. Die Nutzungsbedingungen des Anbieters, die tatsächlichen Funktionen und die gesetzlichen Ausnahmen bleiben maßgeblich.
Werden die beschränkten Funktionen durch die Zustimmung der Eltern zulässig?
Das neue Gesetz sieht für das Verbot der aufgeführten unsicheren Funktionen keine Ausnahme aufgrund elterlicher Zustimmung vor. Übertragen Sie Zustimmungsregeln aus einem anderen Gesetz, etwa Regeln für Feeds sozialer Medien, nicht auf die Chatbot-Nutzung. Ein Anbieter kann nach seinen eigenen Bedingungen zusätzlich die Zustimmung eines Erwachsenen verlangen; diese Anforderung zu erfüllen, setzt das Gesetz jedoch nicht außer Kraft. Prüfen Sie die Nutzungsberechtigung und den Umfang der jeweiligen Funktion getrennt, statt eine elterliche Zustimmung als Erlaubnis für alles zu verstehen.
Bedeutet die Altersfreigabe eines Chatbots, dass mein 13-jähriges Kind ihn nutzen darf?
Eine Altersfreigabe im App-Store allein belegt nicht, dass Ihr Kind die Nutzungsbedingungen eines Dienstes erfüllt. Öffnen Sie die aktuellen offiziellen Bedingungen des Anbieters für Ihr Land und prüfen Sie Mindestalter, Anforderungen an die Zustimmung eines Erwachsenen und etwaige Beschränkungen einzelner Funktionen. New Yorks Gesetz erlaubt nicht generell allen Menschen ab 13 Jahren die Nutzung jedes Chatbots. Wenn die Bedingungen unklar sind, betrachten Sie die Nutzungsberechtigung weiterhin als ungeklärt und fragen Sie beim Anbieter nach, bevor Sie den Zugang als erlaubt ansehen.
Was sollten Eltern außerhalb New Yorks jetzt tun?
Gehen Sie nicht davon aus, dass dieses Gesetz eines US-Bundesstaats den Dienst an Ihrem Wohnort verändert. Prüfen Sie die für Sie geltenden Regeln und Anbieterbedingungen. Das praktische Gespräch in der Familie ist dennoch überall sinnvoll: Finden Sie heraus, welche Dienste Ihr Teenager nutzt, besprechen Sie, was ein Bot sein kann und was nicht, sehen Sie sich gemeinsam die Datenschutzoptionen an und vereinbaren Sie, wem Ihr Teenager von beunruhigenden Interaktionen erzählt. Das sind Vorschläge für Familien, keine Behauptung, dass New Yorks Anforderungen weltweit gelten oder dass eine Checkliste Sicherheit garantiert.