"Deepfakes" in der Schule: Wenn KI für Mobbing missbraucht wird
Mit Künstlicher Intelligenz (KI) lassen sich mühelos täuschend echte Nacktbilder oder Pornovideos erstellen. An Schulen in Niedersachsen sorgt das zunehmend für Mobbing. Eine Schülerin unterstützt Betroffene.
Das zeigt sich zum Beispiel mit Blick auf das Thema "Deepfakes". "Heutzutage kann ich mit KI Menschen ganz einfach beispielsweise nackt ausziehen", erklärt Carla Schulz. Die Schülerin ist als Scout Teil von "JUUUPORT", einem Verein mit Sitz in Hannover. Dahinter steckt eine bundesweite Online-Beratungsplattform für junge Menschen mit Problemen im Netz. Man brauche nur ein Bild von jemanden und könne eine Person dann in einem Porno auftauchen lassen, so Schulz. Habe man ein Ganzkörperbild, könne KI Menschen auch ausziehen. Im Gespräch mit dem NDR Niedersachsen berichtet die Schülerin von einem Fall, in dem Bilder einer Jugendlichen für Pornos verwendet wurden. Das Material sei dann in der ganzen Schule geteilt und die Betroffene damit konfrontiert worden.
Was können Betroffene machen?
Betroffenen rät Scout Carla Schulz, sich Hilfe zu holen - etwa bei Lehrern oder Freunden. Online besteht die Möglichkeit, das kostenlose Angebot von "JUUUPORT" in Anspruch zu nehmen. Kommt die Beratung an ihre Grenzen, verweisen die Ehrenamtlichen auf andere Hilfsangebote. Auch diese Angebote sind auf einer Übersichtsseite zusammengestellt. Außerdem gibt es bei "JUUUPORT" auch ein Meldeformular. Inhalte, die im Netz auffallen und möglicherweise sogar strafbar sind, können hier gemeldet werden. An Betroffene selbst richtet Schulz einen wichtigen Satz. "Du bist nicht Schuld daran, dass das passiert ist", sagt sie.
Lehrer vermuten in NDR Umfrage auch eine Dunkelziffer
In einer NDR Umfrage an allgemeinbildenden Schulen haben NDR Data und NDR Niedersachsen Lehrkräfte auch zu Mobbing mit KI-generierten Inhalten an ihrer Schule befragt. 10,7 Prozent berichten, dass es bei ihnen häufig Mobbing mit solchen Inhalten gegeben hat. Allerdings wurden hier und in der folgenden Grafik Lehrkräfte herausgerechnet, die keine Angabe zu dieser Fragestellung gemacht haben. In Antworten aus einem Freitextfeld klingt an, dass es vermutlich eine Dunkelziffer gibt: "Ich vermute deutlich mehr Fälle als den Lehrkräften bekannt werden", schreibt etwa eine Lehrkraft.
Handyverbot bis zur zehnten Klasse?
Der Verband Niedersächsischer Lehrkräfte bringt einen klaren Wunsch an. "Wir als Verband würden uns wünschen, dass eine Handreichung kommt, dass ein komplettes Verbot vom Handy bis zur zehnten Klasse durchgesetzt wird", sagte der Vorsitzende Torsten Neumann dem NDR Niedersachsen. Man müsse für Schutz sorgen, bei Lehrkräften und vor allem bei den Kindern. Dass sexualisierte Deepfakes grundsätzlich generiert werden können, sollen ab Ende des Jahres neue EU-Regeln für KI-Systeme verhindern. Deutschland arbeitet an einem abschreckenden Gesetz. Isabell Rausch-Jarolimek von der Bundeszentrale für Kinder- und Jugendmedienschutz sieht Bedarf für wirksame Meldesysteme. "Es muss sichergestellt werden, dass schnell abgeholfen wird, indem Material entfernt wird", sagte sie. Rausch-Jarolimek sieht auch Verantwortung bei den Anbietern.
Machen Sie NDR.de zu Ihrer bevorzugten Nachrichten-Quelle bei Google
Wenn Sie unsere Inhalte schätzen und diese häufiger in den Schlagzeilen der Google-Suche angezeigt bekommen möchten, dann legen Sie NDR.de doch als bevorzugte Quelle fest. Voraussetzung ist ein Google-Konto. Hier können Sie NDR.de ganz einfach als bevorzugte Quelle hinzufügen.
Hintergrund: Wie funktioniert die neue Google-Funktion?
