Kaninchen, die im Garten Trampolin springen, sprechendes Obst, das medizinische Ratschläge
gibt oder Influencer*innen, die in Realität gar nicht existieren – so können die Social-Media-Startseiten von Kindern und Jugendlichen aussehen. Mithilfe Künstlicher Intelligenz (KI) generierte Bilder und Videos verbreiten sich rasant über soziale Netzwerke und wirken täuschend echt. Zudem ist die Nutzung von KI-Chatbots wie ChatGPT für die meisten Heranwachsenden fester Bestandteil ihres alltäglichen Medienhandelns geworden.
Fachkräfte berichten nicht selten von Unsicherheiten im Umgang mit den neuen Herausforderungen, die durch aktuelle Entwicklungen im Bereich KI entstehen. Wie sehr kann ich mich auf ChatGPT, Gemini oder die Hinweise von animierten Obst verlassen? Wie kann ich erkennen, dass Kaninchen gar kein Trampolin springen, wenn es doch so täuschend echt aussieht? Und kann KI missbraucht werden?
Archiv der Kategorie: Aktuell
Zwei Minuten pro Folge – was hinter Short Dramen steckt
Ein neues Videoformat aus China erobert die Smartphones von Kindern und Jugendlichen. Die sogenannten Short Dramen werden von Algorithmen optimiert und so gestaltet, dass man immer wieder eine weitere Folge sehen möchte. Was verbirgt sich hinter den Short Dramen und welche Gefahren gehen von ihnen aus?
Sind Deepfakes strafbar?
Das Bundesministerium der Justiz hat einen Gesetzesentwurf zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt veröffentlicht. Mit diesem sollen unter anderem Strafbarkeitslücken insbesondere im Bereich sexualisierter Deepfakes, voyeuristischer Bildaufnahmen und Rache-Pornos geschlossen werden.
Fachtag „Demokratie stärken – Radikalisierung vorbeugen – Präventionsansätze für die Arbeit mit Kindern und Jugendlichen“
Am 7. Mai 2026 veranstaltete die Servicestelle Kinder- und Jugendschutz gemeinsam mit der Partnerschaft für Demokratie im Landkreis Harz (PfD) in Halberstadt den Fachtag „Demokratie stärken – Radikalisierung vorbeugen – Präventionsansätze für die Arbeit mit Kindern und Jugendlichen“. Mehr als 80 Fachkräfte aus der offenen Kinder- und Jugendarbeit, der stationären Kinder- und Jugendhilfe, der Polizei und verschiedenen weiteren Institutionen und Vereinen kamen zusammen, um sich über aktuelle Entwicklungen, gemeinsame Herausforderungen sowie wirksame Präventionsansätze auszutauschen. Weiterlesen
UNICEF-Studie zum Umgang von Jugendlichen mit Social Media
UNICEF Deutschland hat im April 2026 1.072 Jugendliche zwischen 14 und 16 Jahren online zu den Risiken von Social Media, Altersgrenzen, die Verantwortung von Unternehmen und digitale Kompetenzen befragen lassen.
Ein Großteil der Jugendlichen betont die Vorteile von Social Media, wie den Kontakt mit wichtigen Menschen (82 %) und mögliche Inspirationen (74 %). Weiterlesen
Fortbildung „Zu schön um wahr zu sein! Influencer*innen und Schönheitsideale auf Social Media“ am 03. Juni
Die Servicestelle Kinder- und Jugendschutz veranstaltet am Mittwoch, den 3. Juni 2026, von 9.00 bis 15.30 Uhr in Magdeburg die Fortbildung „Zu schön um wahr zu sein! Influencer*innen und Schönheitsideale auf Social Media“.
Das Internet ist im Leben der meisten Jugendlichen fest verankert. Dabei finden Selbstdarstellung und Orientierung zunehmend über soziale Netzwerke wie Instagram, YouTube und TikTok statt. Nicht selten transportieren Social-Media-Stars perfektionistische bis unrealistische Schönheitsideale, um in diesem Rahmen auch die zumeist eingeschränkte Reflexionsfähigkeit der Heranwachsenden für Produktbewerbung zu nutzen. Welche Auswirkungen kann das auf junge Menschen haben und was können Fachkräfte tun?
Bestandsaufnahme der Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“
Alle diskutieren über ein Verbot von Social Media für eine bestimmte Altersgruppe. Um herauszufinden, ob Altersbeschränkungen zu kurz greifen, um das Internet für Minderjährige sicherer zu machen, erarbeitet die Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ Handlungsempfehlungen für eine sichere digitale Teilhabe junger Menschen. Weiterlesen
Austausch- und Vernetzungsforum zu aktuellen jugendschutzrelevanten Themen aus der Kinder- und Jugendhilfe am 20. Mai
Worum geht es?
In unseren Veranstaltungen haben wir die Erfahrungen gemacht, dass ein Austausch der Teilnehmenden untereinander zu speziellen Themen gewünscht ist. Aus diesem Grund wollen wir unser kostenloses Austausch- und Vernetzungsforum regelmäßig einmal im Monat fortsetzen.
Umstrittene „Chatkontrolle“ – Datenschutz vor Kinderschutz?
Seit dem 03.04.2026 dürfen Online-Plattformen keine interpersonelle Kommunikation mehr aktiv nach kinderpornografischen Inhalten durchsuchen. Die Übergangsregelung für die sogenannte freiwillige „Chatkontrolle“ ist ausgelaufen, über eine dauerhafte Lösung wird in der Europäischen Union noch verhandelt. (Quelle: zdf heute)
Deepnudes – Heranwachsende vor digitaler sexualisierter Gewalt schützen
Aktuell explodieren die Timelines mit der Berichterstattung zum Fall Collien Fernandes, die Opfer digitaler sexueller Gewalt geworden ist. Der Fall macht öffentlich, dass die derzeitigen Gesetze nicht ausreichen, um diesem Problem zu begegnen.
Die Schauspielerin und Moderatorin ist Betroffene von bildbasierter sexualisierter Gewalt. Aus ihren öffentlichen Bildern wurde mit Künstlicher Intelligenz (KI) sexualisiertes Bildmaterial erstellt und verbreitet – ohne ihre Zustimmung und ohne ihr Wissen. Dies verletzt das Recht auf sexuelle Selbstbestimmung ebenso wie das Recht am eigenen Bild. Weiterlesen