Nach Teenager-Suizid: Neues ChatGPT-Feature soll Kinder erkennen – und schützen
Nach heftiger Kritik führt ChatGPT eine automatische Alters-Erkennung für Jugendliche ein. Wie funktioniert das?
Der folgende Artikel behandelt das Thema Suizid.
Du hast Selbstmord-Gedanken oder kennst jemanden, der welche hat? Dann kontaktiere bitte umgehend die Telefonseelsorge unter telefonseelsorge.de. Unter der kostenlosen Hotline 0800-1110111 oder 0800-1110222 kannst du außerdem anonym und rund um die Uhr Hilfe von Beratern bekommen, die Auswege aus schwierigen Situationen aufzeigen können.
Ein tragischer Suizid-Fall in den USA hat eine weltweite Debatte über die Risiken von KI für Jugendliche ausgelöst. Nun reagiert OpenAI: ChatGPT soll nun automatisch erkennen, ob Nutzer:innen minderjährig sind – und schaltet Schutzmechanismen ein. Doch wie funktioniert das genau? Und wie sicher ist diese Einschätzung überhaupt?
Neue Funktion: Alterskontrolle bei ChatGPT
Auslöser für die neuen Maßnahmen ist unter anderem ein Fall aus den USA: Ein 16-jähriger Teenager soll sich nach monatelangen Gesprächen mit ChatGPT das Leben genommen haben. Die Familie warf der KI vor, Warnsignale nicht erkannt und gefährliche Gespräche nicht gestoppt zu haben.
Der öffentliche Druck auf OpenAI wuchs nach Bekanntwerden des tragischen Suizids enorm. Kritiker:innen forderten klare Schutzmechanismen für Kinder und Jugendliche. Genau hier setzt nun das neue Feature an: Eine automatische Alters-Prognose soll Minderjährige gezielt erkennen und besser schützen.
Im gleichen Zug veröffentlich OpenAI übrigens ein weiteres neues Feature: Die neue Funktion „Freunde finden“ bei ChatGPT.
So schätzt ChatGPT das Alter ein
ChatGPT fragt Nutzer:innen nicht direkt nach ihrem Alter. Stattdessen nutzt das System verschiedene Hinweise, sogenannte „Signale“. Dazu gehören etwa Themen, über die gesprochen wird, Nutzungszeiten oder wie lange ein Account bereits existiert. Aus diesen Informationen errechnet die KI eine Wahrscheinlichkeit, ob jemand unter 18 Jahre alt sein könnte.
OpenAI gibt in den neuen Datenschutzrichtlinien selbst zu: Das System ist nicht perfekt. Es kann sich irren. Wer fälschlich als minderjährig eingestuft wird, kann sein Alter freiwillig verifizieren. Dafür arbeitet OpenAI mit dem externen Dienst „Persona“ zusammen, der per Selfie oder Ausweis das Alter prüft.
+++ChatGPT: Besorgniserregende Studie! Jede dritte Antwort ist frei erfunden+++
Was sich für Jugendliche konkret ändert
Wird ein Account als unter 18 eingeschätzt, schaltet ChatGPT automatisch zusätzliche Sicherheitsfunktionen ein. Sensible Inhalte werden strenger behandelt oder gar nicht angezeigt. Dazu zählen unter anderem explizite Gewalt, riskante Online-Challenges, sexualisierte Rollenspiele oder Inhalte rund um extremes Körperideal und Diäten.
Wichtig: Jugendliche können ChatGPT weiterhin für Schule, Lernen und kreative Projekte nutzen. Werbung wird ihnen nicht angezeigt. Ziel ist nicht das Blockieren, sondern ein altersgerechter Umgang – besonders bei emotional oder psychisch belastenden Themen.
Ein Schritt in die richtige Richtung?
Ob die neue Alters-Erkennung wirklich ausreicht, um Kinder und Jugendliche vor den Risiken der Künstlichen Intelligenz zu beschützen, bleibt umstritten. Fachleute loben zwar die zusätzlichen Schutzmaßnahmen, weisen aber darauf hin, dass KI emotionale Krisen weiterhin nicht zuverlässig erkennen kann.
Klar ist: Der Schritt zeigt, dass der öffentliche Druck wirkt – und dass der Umgang von Kindern und Jugendlichen mit KI künftig stärker reguliert wird. Für Eltern und junge Nutzer:innen gilt dennoch: ChatGPT kann unterstützen, aber keinen echten menschlichen Beistand ersetzen. Genau diese Grenze scheint OpenAI mit dem neuen Feature nun deutlicher zu ziehen.
