ChatGPT: Besorgniserregende Studie! Jede dritte Antwort ist frei erfunden

Dieses Ergebnis ist alarmierend: Laut einer Studie der Europäischen Rundfunkunion ist jede dritte Antwort von KI-Chatbots wie ChatGPT, Copilot oder Gemini falsch! Was bedeutet das jetzt für Nutzer:innen?

Die Regenwahrscheinlichkeit abfragen, ein Rezept nachschlagen oder eine simple Frage zum aktuellen Tagesgeschehen stellen – inzwischen ist die Google-Suche für viele abgeschrieben: Millionen Menschen benutzen dafür KI. Doch was für uns längst zum Alltag gehört, weist jetzt erhebliche Probleme auf! Die Systeme sollen demnach nicht nur falsche Informationen an ihre Nutzer:innen herausgeben, sondern auch noch mit erfundenen Quellen belegen – und das völlig unabhängig von Sprache oder Plattform.

So behauptet der ChatGPT besteht weiterhin darauf, dass Papst Franziskus noch am Leben ist. Microsoft Copilot, das in Programmen wie Word und Excel integriert ist, hat offenbar nicht mitbekommen, dass Schweden inzwischen Mitglied der NATO ist. Und Google Gemini hält die Wiederwahl von Donald Trump noch für „möglich“ – obwohl sie längst stattgefunden hat.

„Die Systeme klingen überzeugend, auch wenn sie immer wieder vollkommen falsche Dinge behaupten“, erklärt Peter Posch, Wirtschaftswissenschaftler an der Technischen Universität Dortmund. „Das macht sie für ungeübte Nutzer besonders gefährlich, weil die Fehler oft nicht sofort erkennbar sind.“

Die Ursachen für diese Fehler und Fehlinformationen sind vielfältig. Zum einen greifen viele KI-Modelle auf veraltete Trainingsdaten zurück. Sie wurden mit riesigen Mengen an Texten gefüttert, die oft Monate oder sogar Jahre alt sind – ähnlich wie eine Suchmaschine, die seit Langem nicht mehr aktualisiert wurde. Informationen, die einst korrekt waren, können dadurch heute falsch oder überholt sein.

Zum anderen kommt es zu sogenannten „Halluzinationen“: In solchen Fällen erfindet die KI fehlende Fakten, um eine scheinbar schlüssige Antwort zu formulieren. Dabei entstehen statistisch plausible, aber inhaltlich falsche Wortketten – manchmal sogar inklusive fingierter Quellen oder fehlerhafter Verknüpfungen zwischen realen Ereignissen.

Zwar sind moderne Chatbots heute in der Lage, aktuelle Informationen aus dem Internet abzurufen, doch das geschieht nicht automatisch. Nur wenn Nutzer dies in ihrer Eingabe – dem sogenannten Prompt – ausdrücklich verlangen, greift die KI auf das Netz zu und kann so oft genauere Ergebnisse liefern. Viele Anwender wissen das jedoch nicht, was zu falschen oder veralteten Antworten führt.

Genau dieses Problem stand im Mittelpunkt einer aktuellen Untersuchung, die das Fehlerverhalten von KI-Systemen analysierte – mit einem klaren Ergebnis: Selbst die modernsten Chatbots klingen glaubwürdig, liegen aber oft erschreckend falsch.

Doch welche Auswirkungen hat es, wenn immer mehr Menschen ihre Informationen aus Chatbots beziehen? Die Konsequenzen zeigen sich bereits deutlich: Falschinformationen verbreiten sich in rasanter Geschwindigkeit über soziale Netzwerke, weil Nutzer KI-generierte Inhalte ungeprüft weiterverbreiten. In Schulen und Universitäten landen erfundene Angaben in Hausarbeiten, und auch im Alltag könnten falsche Aussagen das Meinungs- und Wahlverhalten beeinflussen.

Besonders problematisch ist, dass viele Anwender nicht wissen, dass Künstliche Intelligenz fehlerhafte Inhalte erzeugen kann. Sie vertrauen darauf, dass Chatbots neutral, sachlich und korrekt arbeiten – ein Irrtum mit potenziell weitreichenden Folgen. Zwar weisen die Systeme in ihren Nutzungsbedingungen auf mögliche Ungenauigkeiten hin, doch diese Warnungen werden von den meisten schlicht übersehen oder ignoriert.

Die Europäische Rundfunkunion (EBU) fordert einen bewussteren Umgang mit Chatbots und KI-generierten Inhalten. Ihre Empfehlung ist eindeutig: nicht blind vertrauen, sondern Informationen stets überprüfen. Besonders bei politischen Themen, Gesundheitsfragen oder finanziellen Entscheidungen sollten Nutzer sich auf seriöse Quellen verlassen – nicht auf künstliche Intelligenz.

Auch Schulen und Universitäten stehen in der Pflicht, digitale Medienkompetenz stärker zu fördern. Junge Menschen müssen lernen, KI-generierte Falschinformationen zu erkennen und zuverlässige Quellen von unsicheren zu unterscheiden. Zwar plant die Bundesregierung Aufklärungskampagnen zum Thema, doch Kritiker bemängeln, dass diese zu spät kommen – denn Millionen Menschen nutzen die Technologie längst täglich.

Solange die Systeme noch fehleranfällig sind, sollten Chatbots nicht als Nachrichtenquelle oder Faktenprüfer. Wer sicher informiert sein will, sollte weiterhin auf seriöse Medien setzen, in denen menschliche Redakteure Informationen prüfen, Quellen bewerten und Zusammenhänge einordnen.