Sie sind eine neue Form digitaler Gewalt: sexualisierte Deepfakes und andere KI-gestützte Manipulationen. Nach Angaben des hessischen Innenministeriums sind der Polizei in Hessen im Zusammenhang mit ihnen in den vergangenen zwei Jahren jeweils Delikte im zweistelligen Bereich bekannt geworden. Immer häufiger stellen die Strafverfolgungsbehörden demnach durch Künstliche Intelligenz generierte sexualisierte Darstellungen von Kindern fest. „Kriminelle missbrauchen öffentlich zugängliche Fotos zunehmend, um mithilfe Künstlicher Intelligenz manipulierte und sexualisierte Inhalte zu erzeugen“, erklärt Hessens Innenminister Roman Poseck. „Kinder werden dadurch nicht nur digital bloßgestellt, sondern solche Aufnahmen können auch Ausgangspunkt weiterer Straftaten werden“, betont der CDU-Politiker. Wie werden sexualisierte Deepfakes erzeugt? Sexualisierte Deepfakes werden laut dem Innenministerium in der Regel mittels KI-gestützter Anwendungen erzeugt, die vorhandenes Bild-, Audio- oder Videomaterial digital manipulieren oder vollständig synthetisch erzeugen. „Häufig werden dabei öffentlich verfügbare Fotos oder Videos genutzt, um Personen täuschend echt in manipulierte Inhalte einzubinden.“ Die hierfür erforderlichen Anwendungen seien mittlerweile in großer Zahl verfügbar und teilweise niedrigschwellig nutzbar. „Die technische Qualität entsprechender Inhalte hat in den vergangenen Jahren deutlich zugenommen.“ Wie erkennen die Ermittler, ob ein Bild künstlich hergestellt wurde? Die Unterscheidung von fiktiver KI-generierter und realer Darstellung des sexuellen Missbrauchs von Kindern ist dem Innenministerium zufolge mit zunehmender Qualität von KI-generierten Darstellungen komplexer geworden. Zur Erkennung kombinierten die Ermittler der Zentralstelle zur Bekämpfung von Internetkriminalität (ZIT) verschiedene Techniken miteinander. Sie haben in den vergangenen Jahren in Zusammenarbeit mit dem Bundeskriminalamt jährlich rund 100.000 strafrechtliche relevante Hinweise bearbeitet. „Einerseits werden visuelle Merkmale analysiert, beispielsweise Auffälligkeiten in Bildstrukturen, Beleuchtung, Details oder Bewegungsabläufen, die auf eine synthetische Erstellung oder Bearbeitung hinweisen können“, erklärt das Justizministerium. Andererseits würden auch IT-forensische Aspekte berücksichtigt, wie etwa die Analyse von Metadaten, Dateistrukturen oder weiterer technischer Eigenschaften der jeweiligen Dateien. „Auch werden verschiedene technische Hilfsmittel wie etwa Tools mit KI-Detektoren eingesetzt, die Hinweise auf eine mögliche synthetische Generierung liefern können.“ Was nutzen die Erkenntnisse der Strafverfolgung? „Die Ermittlungen sind insbesondere durch die hohe Dynamik digitaler Verbreitung, die schnelle Veränderbarkeit von Inhalten sowie die häufig internationale Infrastruktur der genutzten Plattformen erschwert“, erklärt das Innenministerium. Hinzu komme, dass Deepfake-Inhalte technisch zunehmend realistischer würden. Zudem bestünden derzeit keine standardisierten und gerichtsfesten Verfahren, mit denen die Echtheit digitaler Inhalte unmittelbar bewertet werden könne, etwa im Rahmen der Anzeigenaufnahme. „Die Einschätzung erfolgt daher häufig im Zuge einer kriminalistischen Gesamtbetrachtung unter Einbeziehung des Kontextes und möglicher Auffälligkeiten.“ Beispielsweise durch Face Swaps werde die Identifizierung von Geschädigten zudem perspektivisch immer schwieriger, ergänzt das Justizministerium. Face Swapping meint das digitale Ersetzen von Gesichtern in Bildern oder Videos. Dabei wird das Gesicht dann auf dem Körper des anderen angezeigt. Was erschwert den Ermittlern die Arbeit? Neben der immer besser werdenden Technik gibt es rechtliche Einschränkungen, die aus Sicht der Behörden ihre Arbeit erschweren. Vor allem die IP-Adressdatenspeicherung würden sie gern ausweiten, auch Hessens Justizminister Christian Heinz (CDU) stellt diese Forderung. Ohne diese Daten fehlten konkrete Ermittlungsansätze, so seine Argumentation. Allein in den ersten drei Monaten dieses Jahres hätte man in Hessen deshalb Tausende Hinweise auf Kinder- und Jugendpornographie nicht weiter verfolgen können. Welche Erkenntnisse gibt es über die Täter? Die hinter der Erstellung sexualisierter Deepfakes stehenden Täterstrukturen reichten von Einzelpersonen bis hin zu organisierten Gruppen, erklärt das Innenministerium. „Allein handelnde Täter stammen zumeist aus dem persönlichen Umfeld der Opfer.“ Neben Kindern werden vor allem Frauen Opfer, mögliche Tatmotive sind Rache, Kontrolle, sexuelle Befriedigung und die kommerzielle Verbreitung. Die sexualisierten Deepfakes würden oft von unbekannten Tätern erstellt, die über Online-Communitys und Foren an Bilder ihrer Opfer gelangten, so das Ministerium. „Organisierte Gruppen erstellen sexualisierte Deepfakes hingegen insbesondere zur kommerziellen Verbreitung.“ Welche Folgen haben die Missbrauchsdarstellungen? „Aus Sicht der Justiz ist davon auszugehen, dass die technische Möglichkeit zur Entkleidung und Sexualisierung von Kindern anhand von Alltagsaufnahmen geeignet ist, bestehende Hemmschwellen für sexuelle Übergriffe zu senken, kognitive Verzerrungen zu bestätigen und damit eine entsprechende kriminalitätserhöhende Einstellung zu begünstigen“, erklärt das hessische Justizministerium. „KI-generierte Missbrauchsdarstellungen von Kindern bergen erhebliche Risiken für den Opferschutz und die gesellschaftliche Wahrnehmung sexualisierter Gewalt gegen Kinder“, führt die Behörde aus. Sie könnten dazu beitragen, sexualisierte Gewalt zu normalisieren oder zu verharmlosen sowie bestehende Täterphantasien zu verstärken. Die tatsächliche Dimension sexualisierter Gewalt gegen Kinder könnte von diesem massenhaften Phänomen in den Hintergrund gedrängt werden. Wie leiden Betroffene? Die Konfrontation mit solchen KI-generierten Inhalten könne zudem für die abgebildete Person erhebliche physische Auswirkungen haben. Sexualisierte Deepfakes könnten für Betroffene mit erheblichen persönlichen Belastungen verbunden sein, erläutert das Innenministerium. „Hierzu zählen insbesondere Kontrollverlust über die eigene digitale Identität, Angst, Scham, soziale Stigmatisierung sowie nachhaltige Eingriffe in die Persönlichkeitsrechte.“ Die Inhalte würden sehr häufig über Messengerdienste sowie Darknetforen geteilt, sodass diese Aufnahmen unkontrolliert in Umlauf gelangten. Wie können Eltern ihre Kinder schützen? Hessens Innenminister Poseck appellierte an Eltern, sensibel mit der Privatsphäre ihrer Kinder umzugehen und auf öffentliche Posts bestenfalls zu verzichten, um diese Möglichkeiten des Missbrauchs von vornherein zu unterbinden. „Wer persönliche Bilder nicht unbedacht öffentlich teilt, leistet einen wichtigen Beitrag zum Schutz von Kindern vor digitalem Missbrauch“, sagte er. „Wir gehen konsequent gegen Kinderpornographie und Kindesmissbrauch vor“, erklärte Justizminister Christian Heinz (CDU).