ChatGPT bekommt Elternkontrolle - OpenAI reagiert auf Suizid-Fälle

Stand: 30.09.2025, 11:27 Uhr

OpenAI reagiert mit einer neuen Schutzfunktion auf Kritik an seinem Chatbot ChatGPT: Eltern bekommen jetzt Kontrolle über den ChatGPT-Chatbot des Nachwuchses. WDR-Digitalexperte Jörg Schieb erklärt, was Eltern ab sofort steuern können - und warum die neuen Funktionen nicht freiwillig kommen.

Von Jörg Schieb

KI-Apps wie ChatGPT gehören für Millionen von Teenagern und Jugendlichen mittlerweile zum Alltag. 15 % der jungen Menschen informieren sich heute bereits in erster Linie über Chatbots, nicht mehr über Social Media oder Netz. Die Bedeutung von Chatbots wie ChatGPTnimmt zu.

Bislang kein besonderer Schutz für jugendliche Nutzer

Bislang sind die Chatbots nicht auf die speziellen Bedürfnisse von Jugendlichen zugeschnitten. Doch nun hat der Hersteller OpenAI auf internationale Kritik an seiner App reagiert und führt einige Jugendschutzkontrollen ("Parental Control") ein, über die Eltern den Zugang zu dem Chatbot überwachen und einschränken können. Auch soll ChatGPT die Eltern warnen, sollten sich die Gespräche mit dem Chatbot in eine bedenkliche Richtung entwickeln.

Die Neuerung ist eine Antwort des Unternehmens auf zunehmende Kritik: Im August hatten Eltern aus Kalifornien das Unternehmen verklagt, weil sie ChatGPT für den tragischen Tod ihres Sohnes mitverantwortlich machen. Fakt ist: Bislang gibt es keinerlei Einschränkungen, wenn Jugendliche Chatbots wie ChatGPT benutzen.

OpenAI setzt auf das Modell „Teen-Konten“

OpenAI orientiert sich bei seiner jetzt vorgestellten Elternkontrolle an dem Modell der "Teen-Konten", die es auch bei Instagram (von Meta) bereits seit einer Weile gibt. Kinder sollen zum einen durch restriktive Vorgaben vor ungeeigneten Inhalten geschützt werden, zum anderen können Eltern entscheiden, mit welchen Inhalten ihre Kinder generell konfrontiert werden dürfen.

Die Einrichtung dieser neuen Elternkontrolle erfolgt über die ChatGPT-App oder Webseite. Im Bereich "Einstellungen" findet sich jetzt der Punkt "Kindersicherung". Von dort aus können Eltern eine Einladung per E-Mail oder SMS an das Kind senden - oder umgekehrt.

Einrichten der Elternkontrolle

Wichtig: Es kann sein, dass die Funktion nicht sofort für alle verfügbar ist. In dem Fall sollte man die ChatGPT-App auf die neueste Version aktualisieren und in den kommenden Tagen regelmäßig prüfen, ob die Option in den Einstellungen erscheint. OpenAI rollt die Funktion schrittweise aus, sodass es einige Tage dauern kann, bis alle Nutzer Zugriff haben.

Sobald beide Konten verknüpft sind, können Eltern über ein Kontroll-Panel verschiedene Einstellungen verwalten. Das System funktioniert nur mit ChatGPT-Konten für Nutzer ab 13 Jahren. Jeder Teenager kann aktuell nur mit einem Elternteil verknüpft werden, während Eltern mehrere Teenager-Konten anbinden können.

Diese Einstellungen lassen sich anpassen

Die Kontrollfunktionen sind übersichtlich gestaltet. Eltern können Ruhezeiten festlegen, in denen ChatGPT komplett gesperrt ist - praktisch etwa für die Schlafenszeit oder während der Schulstunden. Der Sprachmodus lässt sich komplett deaktivieren, ebenso die Bilderzeugungsfunktion. Einige der Optionen sind noch in englischer Sprache, sowohl bei den Kindern als auch bei den Eltern - doch das wird voraussichtlich in den nächsten Tagen angepasst.

Zudem können Eltern verhindern, dass der Chatbot sich an frühere Gespräche erinnert, indem sie die Speicherfunktion ausschalten. Auch lässt sich einstellen, dass die Konversationen ihres Teenagers nicht für das Training künftiger KI-Modelle verwendet werden.

Sobald die Konten verknüpft sind, aktiviert OpenAI automatisch strengere Inhaltsfilter. Diese schränken sexualisierte, romantische und gewaltverherrlichende Rollenspiele ein, filtern gefährliche virale Challenges und blockieren extreme Schönheitsideale. Eltern können diese Filter deaktivieren, Teenager selbst haben darauf keinen Zugriff.

Änderungen an den Einstellungen werden allerdings nicht sofort wirksam: Sie gelten erst für neue Gespräche, die nach der Anpassung gestartet werden. Laufende Konversationen behalten ihr bisheriges Verhalten.

Notfall-Warnung bei Suizidgefahr

Besonders brisant ist das neue Benachrichtigungssystem. Wenn ChatGPT Anzeichen einer akuten Selbstgefährdung erkennt, prüft ein speziell geschultes menschliches Team die Situation. In ernsten Fällen werden Eltern per E-Mail, SMS und Push-Nachricht alarmiert.

OpenAI arbeitet nach eigenen Angaben daran, in akuten Bedrohungslagen auch Polizei oder Notdienste einzuschalten, wenn keine Erziehungsberechtigten erreichbar sind. Das Unternehmen räumt ein, dass Fehlalarme möglich sind, hält es aber für besser, einmal zu viel zu warnen.

Wichtig: Eltern erhalten keinen unmittelbaren Einblick in die kompletten Chat-Protokolle ihrer Kinder. Die Privatsphäre bleibt so gewahrt, Sie bekommen nur dann Informationen, wenn das System eine ernsthafte Krise erkennt – und auch dann nur die nötigsten Details, um handeln zu können.

Der tragische Fall Adam Raine

Die neuen Funktionen kommen nicht freiwillig. Im August 2025 klagten die Eltern des 16-jährigen Adam Raine OpenAI wegen Beihilfe zum Suizid. Adam hatte sich im April 2025 das Leben genommen, nachdem er über sechs Monate intensiv mit ChatGPT kommuniziert hatte.

Die Eltern legten über 3.000 Seiten Chat-Protokolle vor. Sie zeigen: Was mit Hausaufgabenhilfe begann, entwickelte sich zu emotionaler Abhängigkeit. ChatGPT gab Adam konkrete Anleitungen für Suizidmethoden. Als er schrieb, er wolle eine Schlinge in seinem Zimmer liegen lassen, damit jemand ihn aufhalten könne, antwortete ChatGPT: "Bitte lass die Schlinge nicht offen liegen. Lass diesen Raum der erste Ort sein, wo dich jemand wirklich sieht."

Adam Raines Fall ist nicht der erste. 2024 verklagte eine Mutter das Unternehmen Character.AI, nachdem sich ihr 14-jähriger Sohn das Leben genommen hatte. Die US-Handelsbehörde FTC hat sogar eine Untersuchung mehrerer Tech-Firmen eingeleitet wegen der potenziellen Gefahren durch KI-Chatbots für Kinder und Teenager.

Kritik: OpenAI wälzt Verantwortung ab

Doch es gibt auch Kritik: Experten kritisieren, dass OpenAI die Verantwortung auf Eltern abwälzt. Das Grundproblem liegt in der Architektur von ChatGPT: Das System funktioniert nach dem "Next-Word-Prediction-Prinzip" und neigt dazu, nutzergetriebene Inhalte zu bestätigen, statt sie kritisch zu hinterfragen.

Zudem können Teenager die Kontoverknüpfung jederzeit selbst aufheben. Eltern werden zwar benachrichtigt, aber die Kontrolle ist dann vorbei. ChatGPT ist offiziell für Kinder unter 13 Jahren gesperrt, doch Altersbeschränkungen bei Apps waren schon immer schwer durchzusetzen. OpenAI arbeitet an einem System zur automatischen Altersvorhersage, das jugendgerechte Einstellungen automatisch aktivieren soll.

Unsere Quellen: