Zwischen Prompt und Pädagogik – Kindheit mit KI

Kaninchen, die im Garten Trampolin springen, sprechendes Obst, das medizinische Ratschläge gibt oder Influencer*innen, die in Realität gar nicht existieren – so können die Social-Media-Startseiten von Kindern und Jugendlichen aussehen. Mithilfe Künstlicher Intelligenz (KI) generierte Bilder und Videos verbreiten sich rasant über soziale Netzwerke und wirken täuschend echt. Zudem ist die Nutzung von KI-Chatbots wie ChatGPT für die meisten Heranwachsenden fester Bestandteil ihres alltäglichen Medienhandelns geworden.
Fachkräfte berichten nicht selten von Unsicherheiten im Umgang mit den neuen Herausforderungen, die durch aktuelle Entwicklungen im Bereich KI entstehen. Wie sehr kann ich mich auf ChatGPT, Gemini oder die Hinweise von animierten Obst verlassen? Wie kann ich erkennen, dass Kaninchen gar kein Trampolin springen, wenn es doch so täuschend echt aussieht? Und kann KI missbraucht werden?

Alle sprechen von KI – aber was genau ist gemeint?

Unter Künstlicher Intelligenz werden aktuell vor allem Anwendungen verstanden, die eigenständig Inhalte erzeugen können. Das können Texte, Bilder, Videos oder Audiodateien sein. Technisch basieren diese Systeme vereinfacht gesagt auf der Auswertung großer Datenmengen. Sie erkennen Muster und Wahrscheinlichkeiten und erzeugen daraus neue Inhalte, ohne selbst zu verstehen, was sie produzieren.
Bestimmte KI-Systeme können aber auch bereits bestehende Inhalte gezielt verändern, so zum Beispiel ein Gesicht von einem Bild in ein anderes einfügen. Diese Manipulationen sind je nach genutzter KI-Technik nicht mehr als Fälschung zu erkennen (sogenannte DeepFakes).
Für Heranwachsende sind textgenerierende KI-Systeme wie ChatGPT am relevantesten. So nutzen sie laut JIM-Studie 2025 KI meist zum Lernen und Recherchieren (70 bis 75 Prozent). Währenddessen sind bild- und videogenerierende KI-Anwendungen für junge Menschen vergleichsweise uninteressant (7 bis 26 Prozent).
Neben dem eigenen Erstellen von KI-Inhalten stoßen Kinder und Jugendliche aber auch als Konsumenten auf sozialen Netzwerken zunehmend auf KI-generierte Inhalte. Unter dem Begriff „AI-Slop“ (deutsch: KI-Schrott) werden insbesondere jene KI-Inhalte zusammengefasst, die meist inhaltsarm aber absurd genug sind, um Klicks und Reichweite zu generieren. Das kann neben sprechenden Gegenständen auch der Papst auf einem Motorrad oder ein Elefant auf einem Sprungturm sein.

Chancen und Risiken – es kommt darauf an

Aufgrund der Vielfältigkeit von KI-Anwendungen und KI-generierten Inhalten unterscheiden sich auch jeweilige Chancen und Risiken. Die Art der Nutzung von KI-Anwendungen sowie die Reflexionsfähigkeit auf Nutzer*in-Seite bestimmen maßgeblich, inwiefern positive oder negative Konsequenzen zu befürchten sind.

Informationsbeschaffung und Recherche
Generative KI kann formal korrekte Informationen niedrigschwellig aufbereiten und damit inklusivere Zugänge schaffen. Zeitgleich kommt es aber auch vor, dass KI-Chatbots aufgrund der Tatsache, dass sie lediglich Wahrscheinlichkeiten berechnen und Inhalte nicht durchdringen können, falsche Informationen wiedergeben. Durch Chatbots erstellte Texte müssen demnach weiterhin durch eigenständige Recherche geprüft werden.
Parasoziale Beziehungen
Die Kommunikation mit Chatbots muss nicht nur zwingend der Informationsbeschaffung dienen, sondern kann auch zum Aufbau parasozialer Beziehungen führen. Entsprechende KI-Anwendungen loben und validieren den*die Nutzer*in häufig und lösen damit ein Gefühl von Dankbarkeit aus. Die KI wird teilweise personifiziert, enthält zum Beispiel einen Kosenamen. Sie ist stets verfügbar und sanktioniert nicht. Diese Dynamik kann einerseits Einsamkeit reduzieren und bei der Bewältigung psychischer Belastungen unterstützen. Spezialisierte Chatbots wie Woebot können gar strukturierte therapeutische Inhalte anbieten. Andererseits kann es aber auch zu einer Gewöhnung an die synthetische, perfekte Kommunikation kommen. Weil derart angenehme Beziehungen mit realen Personen nicht möglich sind, werden möglicherweise Kontakte zu Menschen vermieden.
Schwer erkennbare Fälschungen
Aktuelle Entwicklungen bei generativer KI machen es möglich, Inhalte zu erstellen, die täuschend echt erscheinen. Das kann im Falle der trampolinspringenden Kaninchen maximal enttäuschend, aber beispielsweise bei politischem Content problematisch sein. Zudem besteht die Möglichkeit, Menschen durch Bild- oder Videomanipulationen großen Schaden zuzufügen, insbesondere durch sexualisierte KI-Inhalte. Ein einziges Bild der Person kann ausreichen, um diffamierende Fälschungen zu generieren. So wurde beispielsweise der KI-Chatbot Grok häufig dafür genutzt, Frauen digital zu entkleiden.

Handlungsempfehlungen für Fachkräfte

Die rasanten Entwicklungen von KI sowie ihre möglichen Auswirkungen auf Heranwachsende im Einzelnen und die Gesellschaft allgemein können beängstigend sein. Dennoch gibt es Möglichkeiten, junge Menschen dabei zu unterstützen, KI zu ihrem Vorteil zu nutzen und Risiken zu minimieren.

Erklären Sie Heranwachsenden, wie KI-Systeme funktionieren. Dabei ist zu betonen, dass Chatbots kein menschliches Bewusstsein und keine Gefühle haben, sondern Aussagen lediglich auf den jeweiligen Trainingsdaten und der Berechnung von Wahrscheinlichkeiten beruhen.
Sie können ergänzend zu Gesprächen mit Heranwachsenden auch Methoden zur Sensibilisierung für die Funktionsweisen von KI nutzen. Klicksafe bietet beispielsweise gut aufbereitetes Material dazu an.
Nutzen Sie selbst KI-Chatbots mit jungen Menschen. Prüfen Sie gemeinsam die KI-generierten Texte kritisch und vergleichen Sie die Informationen mit anderen Quellen. Junge Menschen benötigen Recherchekompetenz, um ChatGPT und Co. sinnvoll nutzen zu können.
Sensibilisieren Sie Heranwachsende auch für Datenschutz. Reden Sie darüber, dass KI-Systeme die geteilten Informationen verarbeiten und speichern und überlegen Sie gemeinsam, welche Daten nicht in den Chat gehören. Dazu zählen unter anderem sensible Informationen über die eigene Gesundheit, intime Erfahrungen, Fotos der eigenen Person, Zugangsdaten und Passwörter sowie Daten über andere Personen.
Ermuntern Sie dabei auch, den digitalen Fußabdruck im Internet zu reflektieren. Je mehr Inhalte mit einem gut erkennbaren Gesicht öffentlich zugänglich online zu finden sind, desto einfacher ist es für KI-Systeme, DeepFakes daraus zu erstellen.
Kommen Sie über die Erfahrungen auf Social Media in den Austausch. Fragen Sie nach, ob die Kinder und Jugendlichen bereits KI-generierte Inhalte auf den Plattformen gesehen haben und woran sie diese erkannt haben. Erinnern Sie dabei auch daran, dass einige KI-Inhalte mittlerweile kaum noch von realen zu unterscheiden sind. Prüfen Sie bei Bedarf Fotos und Videos auf sozialen Netzwerken gemeinsam. In manchen Fällen sind diese bereits von den Plattformen als KI-generiert markiert. Häufig lohnt auch ein Blick in die Kommentarspalten, in denen Nutzer*innen Hinweise dazu geben. Recherchieren Sie zusätzlich im Internet: zu einigen Inhalten mit großer Reichweite, wie es bei den Kaninchen auf dem Trampolin der Fall war, gibt es bereits entlarvende Berichterstattung.
Achten Sie auf Beziehungskompetenzen der jungen Menschen, mit denen Sie arbeiten. Auch wenn Chatbots gegebenenfalls in manchen Bereichen unterstützen können, so bleiben belastbare Beziehungen zu realen Menschen unverzichtbar.
Behalten Sie dabei vulnerable Heranwachsende besonders im Blick. Untersuchungen zeigen, dass insbesondere junge Menschen mit depressiven Symptomen zur Kommunikation mit Chatbots greifen, um sich von negativen Gefühlen abzulenken, Einsamkeit zu lindern oder vertrauliche Dinge zu besprechen. Weisen Sie in diesen Fällen auf Alternativen wie Beratungsangebote oder ärztliche Unterstützung hin.