Eine neue, von der EU finanzierte Sicherheitstechnologie wird dazu beitragen, den Konsum von Bildern und Videos, die sexuellen Kindesmissbrauch zeigen, zu reduzieren

Das zweijährige, mit 2 Mio. EUR finanzierte Projekt basiert auf der Zusammenarbeit von Expert*innen der EU und des Vereinigten Königreichs

Die Technologie wird auf freiwilliger Basis auf den Geräten von Personen eingerichtet werden, bei denen das Risiko besteht, dass sie sich Zugang zu Material von sexuellem Kindesmissbrauch  verschaffen  

Das nutzerorientierte Design wird in Echtzeit arbeiten, um zu verhindern, dass derartige Materialien auf dem Bildschirm angezeigt werden

In einem Gemeinschaftsprojekt werden Fachkräfte der EU und des Vereinigten Königreichs ein spezifisches Tool aus dem Bereich der Sicherheitstechnologie entwickeln, das maschinelles Lernen in Echtzeit  benutzt, um Bilder und Videos von sexuellem Kindesmissbrauch zu erkennen.  

Im Rahmen des zweijährigen Protech-Projekts wird im März mit der Erforschung, dem Design und der Entwicklung einer App begonnen, die auf Geräten von Personen eingerichtet werden kann, bei denen das Risiko besteht, dass sie auf Material zugreifen, welches sexuellen Kindesmissbrauch zeigt.

Die App wird freiwillig eingesetzt werden, und die Nutzer werden über ihren Zweck und ihre Wirkung auf ihr Gerät voll informiert sein.

Die Sicherheits-App wird sowohl den Netzwerkverkehr als auch die auf dem Bildschirm des Nutzers betrachteten Bilder in Echtzeit überwachen. Nach der Einrichtung wird die App im Hintergrund laufen. Es ist keine Interaktion mit dem Nutzenden notwendig, außer wenn Bilder, die sexuellen Kindesmissbrauch zeigen, entdeckt und gesperrt werden.  

Nach der Auffassung der Kooperationspartner des 2 Mio. EUR (1,8 Mio. GBP) teuren Projekts, das von der Europäischen Kommission finanziert wird, könnte das Tool dabei helfen, die wachsende Nachfrage nach Material von sexuellem Kindesmissbrauch im Internet einzudämmen.

Das Projekt wird verhindern, dass Betroffene von Kindesmissbrauch dadurch erneut viktimisiert werden und dass Dritte immer noch Bilder und Videos von ihnen im Internet sehen können.

Die Einzigartigkeit der App liegt in ihrem nutzerorientierten Design. Dabei werden sehr präzise maschinenlernende Modelle verwendet, um so bei Personen wirksam eingreifen zu können, die befürchten, sexuellen Missbrauch an Kindern zu begehen. Die App arbeitet in Echtzeit, um den Konsum krimineller Inhalte zu erkennen und zu unterbinden, noch bevor Nutzerinnen und Nutzer auf diese Inhalte zugreifen können.

Sie könnte sich als wichtiges Instrument für die nachhaltige, langfristige Prävention der Verbreitung von Inhalten von sexuellem Kindesmissbrauch erweisen, in Ergänzung zu den derzeitigen digitalen Anstrengungen, die unternommen werden, um gegen die Bilder vorzugehen und sie zu entfernen, z. B. strafrechtliche Ermittlungen und das Entfernen und Hashing von Bildern.  

Das Projekt wird von einer der größten Universitätskliniken Europas geleitet, der Charité – Universitätsmedizin Berlin, in Zusammenarbeit mit Expert*innen aus diversen und weitreichenden Gebieten wie der Kriminologie, dem Gesundheitswesen, der Entwicklungs-, klinischen und forensischen Psychologie, der Softwareentwicklung, dem Kinderschutz und der Internetsicherheit.

Prof. Dr. Klaus M. Beier, Direktor des Instituts für Sexualwissenschaft und Sexualmedizin an der Charité – Universitätsmedizin Berlin, erläuterte: „Der zunehmende Konsum und die Verbreitung von Material von sexuellem Kindesmissbrauch ist ein Problem mit internationaler Tragweite und erfordert die Erforschung des Verhaltens der Nutzerinnen und Nutzer, insbesondere in den Fällen, die den Justizbehörden nicht bekannt sind und die die Fälle, die gerichtlich untersucht oder verurteilt werden, bei weitem übertreffen. Dieser Aspekt wurde in der Vergangenheit weitgehend vernachlässigt, obwohl hier das Präventionspotenzial am größten ist.  

Mit der Entwicklung von „Salus“ konzentriert sich Protech also auch auf selbstmotivierte und kooperative, potenzielle oder tatsächliche Nutzerinnen und Nutzer von Darstellungen sexuellen Kindesmissbrauchs, die den Konsum nicht beginnen oder fortführen wollen.

Die App ist nach Salus benannt, der römischen Göttin für Sicherheit und Wohlergehen, und soll von dem britischen Technologieunternehmen SafeToNet entwickelt werden. Das Unternehmen ist auf Cybersicherheit spezialisiert und wendet eine innovative Überwachungstechnologie an, die in Echtzeit arbeitet.  

Tom Farrell QPM, Chief Operating Officer von SafeToNet, erklärte: „Wir freuen uns darüber, die technische Expertise für dieses wichtige Projekt liefern zu können. Unserer Ansicht nach spielt die technische Prävention derzeit eine enorme Rolle dabei, gegen den Konsum von Material, das sexuellen Missbrauch von Kindern zeigt, sowie gegen die Nachfrage nach solchem Material vorzugehen.”

Um bei dem Design der App mitzuhelfen, werden Mitglieder des Projektteams von führenden Institutionen in der wirkungsorientierten Forschung und dem Wissensaustausch – dem Policing Institute for the Eastern Region an der Anglia Ruskin University im Vereinigten Königreich und dem Institut für Entwicklungspsychologie an der Universität Tilburg in den Niederlanden – untersuchen, warum und wie Straftäter*innen damit beginnen, sich Darstellungen von sexuellem Kindesmissbrauch anzusehen, und was ihnen dabei helfen könnte, dies zu unterbinden.  

Die Studienteilnehmenden werden Freiwillige sein, die von den Partnern des Projektteams angeworben werden, die sehr wichtige Präventionsdienste leisten: die Charité – Universitätsmedizin Berlin, die Lucy Faithfull Foundation im Vereinigten Königreich, Stop it Now Netherlands, das Teil des Kompetenzzentrums für sexuellen Kindesmissbrauch im Internet ist, sowie das Forensische Universitätszentrum der Universitätsklinik von Antwerpen in Belgien. Es werden Interviews mit Personen, bei denen das Risiko besteht, dass sie sich sexuelle Darstellungen mit Kindern ansehen, sowie mit Fachkräften auf der Ebene der Präventionsunterstützung durchgeführt werden.

Die Internet Watch Foundation (IWF), Europas wichtigste Hotline zum Aufspüren und Entfernen von Bildern und Videos sexuellen Kindesmissbrauchs im Internet, wird eine sichere Umgebung anbieten, um die auf maschinellem Lernen beruhende Software zu trainieren und zu testen, sodass sie Materialien von sexuellem Kindesmissbrauch aufspüren kann.

Dan Sexton, Chief Technology Officer bei der IWF, erläuterte: „Leider ist die Nachfrage nach Bildern und Videos, die sexuellen Missbrauch von Kindern zeigen, ungebrochen. Im Jahr 2022 entfernte die IWF über 255 000 URL aus dem Internet, die nachgewiesenermaßen Material enthielten, das sexuellen Kindesmissbrauch zeigt.

Wir wissen aber auch, dass es im laufenden weltweiten Kampf gegen  sexuellen Missbrauch von Kindern nicht ausreicht, diese furchtbaren Inhalte nur aufzuspüren und zu entfernen. Daher freuen wir uns, dass wir uns an diesem Projekt beteiligen können, indem wir die Software trainieren und testen, die sich bei der Reduzierung der Nachfrage nach diesen kriminellen Materialien insgesamt als entscheidend erweisen könnte.

Durch die Zusammenarbeit mit fachkundigen Organisationen innerhalb der EU und des Vereinigten Königreichs stellen wir sicher, dass die beabsichtigte Wirkung dieses Projekts so weitreichend wie möglich ist, um Kindern überall auf der Welt zu helfen.“

Prof. Dr. Kris Goethals, Direktor des Forensischen Universitätszentrums (Universitair Forensisch Centrum, UFC) des Universitätsklinikums Antwerpens, meinte: „Seit der COVID-Pandemie hat es einen deutlichen Anstieg an Missbrauchsdarstellungen im Internet gegeben, und ein großer Teil unserer behandelten Patient*innen in unserem Ambulanzzentrum (UFC) sind Personen, die aufgrund solcher Straftaten verurteilt wurden oder bei denen das Risiko besteht, dass sie solche Straftaten begehen.

Diese Probleme werden auf der ganzen Welt beobachtet und erfordern eine internationale Lösung. Leider bietet ein rein repressiver Ansatz im Hinblick auf dieses Phänomen keine Lösung, daher kann das Protech-Projekt ein erster entscheidender Schritt in Richtung eines präventiven Ansatzes darstellen.  

Dieses Projekt bietet damit einen Mehrwert im Kampf gegen den sexuellen Missbrauch von Kindern. Zugleich bringt es die verschiedenen Bereiche der Strafverfolgung, soziale Präventionsdienste und die Gesellschaft insgesamt zusammen.“

Prof. Samantha Lundrigan, Direktorin des Policing Institute for the Eastern Region, betonte: „Der Missbrauch von Kindern im Internet ist ein weltweites Problem, das innovatives Denken bei unseren gemeinsamen Anstrengungen erfordert, darauf entsprechende Antworten zu finden.  

Wir wissen, dass akademische Erkenntnisse aus Forschungen wie der unseren die Daten liefern können, die zur Unterstützung von Projekten wie diesem benötigt werden, um fundierte Erkenntnisse und Beweise zu liefern. Dies ist ein spannendes Projekt, und wir sind sehr froh darüber, es unterstützen zu können. Wir hoffen, dabei einen wirklichen Mehrwert zu erzielen, und zwar sowohl bei denjenigen, bei denen das Risiko besteht, dass sie sich einer Straftat schuldig machen, als auch bei denen, die von Missbrauch betroffen sind.“

Prof. Dr. Stefan Bogaerts, Leiter des Instituts für Entwicklungspsychologie an der Universität Tilburg, erklärte: „Sexueller Missbrauch im Internet ist ein komplexes und multidimensionales Problem, für das es keine einfachen Lösungen gibt. Digitale Geräte können eine Rolle dabei spielen, sexuellen Missbrauch im Internet mithilfe bestimmter Funktionen und Maßnahmen zu reduzieren, die die Sicherheit von Nutzerinnen und Nutzern erhöhen, wie beispielsweise Sicherheits- und Datenschutzeinstellungen, Benachrichtigungs- und Sperroptionen.  

Zudem bedarf es kontinuierlicher Investitionen, um das Bewusstsein von Nutzerinnen und Nutzern im Hinblick auf Internetsicherheit und die Verhinderung von sexuellem Missbrauch zu erhöhen. Die Verhinderung von sexuellem Missbrauch im Internet liegt in der gemeinsamen Verantwortung von Technologieunternehmen, der Wissenschaft, Regierungen und der Gesellschaft. Gemeinsam können wir auf einen kulturellen Wandel hinarbeiten und uns dafür einsetzen, eine sichere Umgebung im Internet für alle Nutzerinnen und Nutzer zu schaffen.“

Nach der Entwicklung wird die Sicherheitsintervention in einer Pilotphase in fünf Ländern – Deutschland, den Niederlanden, Belgien, der Republik Irland und dem Vereinigten Königreich – eingeführt, an der mehr als 50 Fachkräfte und mindestens 180 Nutzerinnen und Nutzer über einen Zeitraum von 11 Monaten beteiligt sind.

Während der Pilotphase wird SafeToNet von den Nutzerinnen und Nutzern sowie den Fachkräften Rückmeldungen einholen und diese dazu nutzen, die Software der App weiter zu verbessern und anzupassen.

Ein Teil des Projekts besteht darin, die potenzielle Reichweite und Wirkung der Intervention in Europa zu evaluieren und zu bewerten. Dabei werden Empfehlungen von Expertinnen und Experten berücksichtigt, wie die Intervention als Teil von Präventionsprogrammen im Bereich der öffentlichen Gesundheit wirksam umgesetzt werden könnte.

Angesichts des schieren Ausmaßes von im Internet verfügbaren Kinderfotos sexueller Natur sowie der steigenden Nachfrage nach solchen Inhalten ist das Projektteam der Meinung, dass die App und das dahinter liegende Interventionsprogramm auch dabei helfen werden, die Arbeitsbelastung bei der Verfolgung von Straftäter*innen, die für die Erstellung und Verteilung dieser Inhalte verantwortlich sind und in manchen Fällen von dem Verkauf der Inhalte profitieren, zu reduzieren.

Donald Findlater, Direktor von Stop It Now! von der Lucy Faithfull Foundation im Vereinigten Königreich und Irland, sagte: „Im vergangenen Jahr nahmen fast 5000 Menschen zur Beratungsstelle Stop It Now! im Vereinigten Königreich und Irland Kontakt auf, die wegen ihrer sexuellen Fantasien oder ihres Verhaltens gegenüber Kindern besorgt waren. Sie wünschen sich Hilfe, sodass keine Kinder zu Schaden kommen und sie keine Straftat begehen. Zudem wurden unsere Selbsthilferessourcen im Internet von Hunderttausenden von Besucherinnen und Besuchern aufgerufen, die Hilfe suchten, um ihr eigenes sexuelles Verhalten im Internet oder das eines geliebten Menschen zu kontrollieren.

„Salus“ würde viele Menschen, die sich an uns wenden, dabei unterstützen, keine sexuellen Bilder von Kindern mehr zu konsumieren. Dieses Projekt ermöglicht es uns, diese Menschen zu unterstützen und zu lernen, wie wir das Problem, dass Menschen Bilder sexuellen Kindesmissbrauchs im Internet konsumieren, besser angehen können. „Salus“ hat das Potenzial, einen wichtigen Beitrag im weltweiten Kampf gegen den sexuellen Kindesmissbrauch im Internet zu leisten.“

Arda Gerkens, Geschäftsführerin des Kompetenzzentrums für sexuellen Kindesmissbrauch im Internet (Expertisebureau Online Kindermisbruik), meinte: „Wir bei Stop it Now Netherlands freuen uns sehr darüber, Teil des Protech-Forschungsprojekts zu sein. Unsere Beratungsstelle bietet Unterstützung, Beratung und Internetressourcen zur Selbsthilfe für Menschen, die Materialien von sexuellem Kindesmissbrauch konsumieren. Personen, die unsere Beratungsstelle kontaktieren, suchen indes oftmals nach technischen Interventionsmöglichkeiten, die sie davon abhalten, auf derartige Materialien zuzugreifen.

Angesichts unserer Aufgabe, den sexuellen Missbrauch von Kindern (im Internet) zu stoppen und zu verhindern und auf ein sicheres Online-Umfeld für alle hinzuarbeiten, sind wir der Meinung, dass Forschung und die kontinuierliche Verbesserung von Hilfs- und Präventionsinstrumenten unerlässlich sind.“