Häufig gestellte allgemeine Fragen zu Protech

Was ist Protech?

Mit dem Protech-Projekt sollen Technologien erforscht, konzipiert und entwickelt werden, die Menschen daran hindern, Inhalte von sexuellem Kindesmissbrauch im Internet zu konsumieren. Videos und Bilder von entsetzlichem sexuellen Missbrauch von Kindern und die weltweite Nachfrage danach haben im Internet ein noch nie dagewesenes Ausmaß erreicht, und diese Sicherheitstechnologie wird für den Einsatz auf den Geräten von Einzelnen konzipiert, die auf dieses Material zugreifen wollen.

Das Projekt vereint führende Expert*innen aus dem Vereinigten Königreich und der EU mit unterschiedlichsten Fachkenntnissen, darunter in den Bereichen Kriminologie, Gesundheitswesen, Entwicklungspsychologie, klinische und forensische Psychologie, Softwaretechnik, Kinderschutz und Internetsicherheit. Die Technologie auf dem Gerät könnte dazu beitragen, die wachsende Nachfrage nach Material von sexuellem Kindesmissbrauch im Internet einzudämmen und das Leid von Betroffenen von sexuellem Kindesmissbrauch zu verhindern, deren Bilder noch lange nach dem Missbrauch im Internet kursieren.

Das mit 2 Mio. EUR (1,8 Mio. GBP) dotierte Projekt wird von der Europäischen Kommission für zwei Jahre über den EU-Fonds für die innere Sicherheit finanziert und von der Generaldirektion Migration und Inneres (GD HOME) der Kommission verwaltet. Das Projekt wird von der Charité – Universitätsmedizin Berlin geleitet.

Wie soll die Technologie funktionieren?

Die einzigartige Technologie, die SafeToNet für das Projekt entwickelt hat, nutzt hochpräzises maschinelles Lernen in Echtzeit, um Bilder und Videos von sexuellem Kindesmissbrauch zu erkennen. Die Sicherheitstechnologie wird sowohl den Netzverkehr als auch die Bilder in Echtzeit überwachen, bevor sie auf dem Bildschirm der Nutzerinnen und Nutzer angezeigt werden. Dies geschieht innerhalb von Sekunden, bevor das Material von einem Menschen gesehen werden kann. Nach der Installation wird die Technologie auf dem Gerät im Hintergrund ausgeführt, es sei denn, es werden sexuelle Darstellungen von Kindern erkannt und gesperrt.

Die Sicherheitstechnologie ist darauf trainiert, Material von sexuellem Kindesmissbrauch genau zu erkennen, und sie wird mit streng geprüftem Bildmaterial von sexuellem Kindesmissbrauch getestet, das von menschlichen Prüfenden bei der Internet Watch Foundation als krimineller Inhalt eingestuft wurde. Die IWF stellt eine sichere Umgebung zur Verfügung, in der die maschinelle Lernsoftware auf Herz und Nieren geprüft wird, um Material von sexuellem Kindesmissbrauch korrekt zu erkennen.

Der Name der Technologielösung, die entwickelt wurde, um Material von sexuellem Missbrauch von Kindern auf einem elektronischen Gerät zu erkennen und zu sperren, lautet „Salus“. Die Lösung beruht auf der bestehenden, von SafeToNet entwickelten Technologie.

Wer wird die Technologie nutzen?

Der Einsatz der Technologie auf dem Gerät erfolgt freiwillig, und die Nutzerinnen und Nutzer werden über den Zweck und die Auswirkungen auf ihr Gerät informiert. Bei den Freiwilligen handelt es sich um Einzelne, die befürchten, dass sie sich an Kindern vergreifen könnten. Sie werden über die kritischen Präventionsdienste der Charité –Universitätsmedizin Berlin, des Forensischen Universitätszentrums (UFC) des Universitätsklinikums Antwerpen, der Lucy Faithfull Foundation und von Stop it Now Netherlands angeworben. 

Die Einzigartigkeit der Sicherheitslösung besteht in ihrem nutzerzentrierten Design, das eine effiziente Intervention ermöglicht und den Konsum von kriminellen Inhalten unterbindet, bevor die Nutzerinnen und Nutzer sie sehen. Sie könnte sich als ein wichtiges Instrument für die nachhaltige, langfristige Prävention von Inhalten von sexuellem Kindesmissbrauch erweisen.

Warum ist die Technologie für Nutzerinnen und Nutzer geeignet?

Zur Unterstützung bei der Entwicklung der Sicherheitstechnologie wird das Policing Institute for the Eastern Region (PIER) der Anglia Ruskin University im Vereinigten Königreich untersuchen, warum und wie Straftäter*innen mit dem Konsum von Material von sexuellem Kindesmissbrauch beginnen und was ihnen helfen könnte, damit aufzuhören. Es werden sowohl Interviews mit Einzelpersonen, bei denen das Risiko besteht, dass sie kriminelle Inhalte konsumieren, als auch mit Fachkräften aus dem Bereich der Präventionshilfe durchgeführt. Aus den Forschungsergebnissen und Nachweisen des PIER werden die Daten hervorgehen, die zur Information und Unterstützung des Projekts benötigt werden.

Wann wird Salus zum Einsatz kommen?

Sobald die Sicherheitstechnologie entwickelt ist, wird sie in einer Pilotphase in fünf Ländern eingeführt: in Deutschland, den Niederlanden, Belgien, der Republik Irland und im Vereinigten Königreich. Dabei werden mindestens 180 Nutzerinnen und Nutzer die Software über einen Zeitraum von 11 Monaten testen.

Während der Pilotphase wird SafeToNet von den Nutzerinnen und Nutzern und Fachkräften Rückmeldungen einholen und diese dazu verwenden, die Software weiter zu verbessern und anzupassen.

Das Institut für Entwicklungspsychologie an der Universität Tilburg wird das Projekt evaluieren und die Machbarkeit des Einsatzes der Technologie im Rahmen eines Interventionsprogramms in Europa prüfen. Es wird dabei Empfehlungen von Expertinnen und Experten berücksichtigen, wie sie im Rahmen von Präventionsprogrammen im Bereich des Gesundheitswesens wirksam eingesetzt werden könnte.

Wer ist beteiligt?

• Die Charité – Universitätsmedizin Berlin ist eine der größten Universitätskliniken in Europa. Die gesamte klinische Versorgung, Forschung und Lehre erfolgt mithilfe von Ärzten und Ärztinnen und Forschenden auf höchstem internationalen Niveau. Das Institut für Sexualwissenschaft und Sexualmedizin bietet Vorlesungen, Studien und Praktika für Studierende aller Richtungen an und betreibt interdisziplinäre Forschung zur menschlichen Sexualität, also die Untersuchung biologischer, psychologischer und sozialer Einflussfaktoren auf die menschlichen Sexualität. Im Jahr 2005 rief das Institut für Sexualwissenschaft und Sexualmedizin das Therapie- und Forschungsprojekt „Kein Täter werden“ ins Leben, das sich inzwischen zu einem bundesweiten Netzwerk ambulanter Kliniken entwickelt hat, in dem die Behandlung von Personen angeboten wird, die angeben, dass sie ein sexuelles Interesse an Kindern haben und Hilfe suchen. 
• Die Internet Watch Foundation hilft den Betroffenen von sexuellem Kindesmissbrauch weltweit, indem sie Bilder und Videos des Missbrauchs im Internet aufspürt und entfernt. Sie sucht nach Bildern und Videos von sexuellem Kindesmissbrauch und bietet der Öffentlichkeit die Möglichkeit, diese anonym zu melden. Anschließend werden diese Inhalte entfernt. Die Internet Watch Foundation ist eine gemeinnützige Organisation und wird von der globalen Internetbranche unterstützt.
• SafeToNet ist ein Unternehmen der Cybersicherheitsbranche, das eine bahnbrechende, preisgekrönte und patentierte Technologie entwickelt hat, die künstliche Intelligenz dazu verwendet, gegen schwere Bedrohungen im Internet, beispielsweise Cybermobbing, sexuelle Erpressung, Grooming, Missbrauch und Aggression, vorzugehen. 
• Das Forensische Universitätszentrum (UFC) des Universitätsklinikums Antwerpen bietet Personen mit einem deviantem sexuellen Verhalten und/oder devianten sexuellen Interessen spezielle ambulante Behandlungsmöglichkeiten an. Das UFC betreibt ferner ein Förderzentrum und bietet Interessenvertreter*innen wissenschaftliche und logistische Unterstützung im Hinblick auf das Problem von Sexualstraftaten in Flandern (Belgien). 
• Das Policing Institute for the Eastern Region (PIER) ist ein Forschungsinstitut innerhalb der Anglia Ruskin University (ARU). Seine Vision ist es, die Polizeiarbeit durch Partnerschaften in der angewandten Forschung zu verbessern, wobei sie sich auf drei Bereiche konzentriert: Sexualdelikte, Polizeiarbeit des 21. Jahrhunderts sowie Extremismus und Terrorismusbekämpfung. Die Mission des Instituts ist ein Führungsanspruch im Hinblick auf erstklassige Forschung, Innovation und Wirkung, um die praktische Polizeiarbeit zu verbessern. Die ARU gehört nach dem World University Ranking 2023 von Times Higher Education zu den 350 besten Hochschulen weltweit und ist eine internationale Universität.

• Das Institut für Entwicklungspsychologie an der Universität Tilburg ist auf die Entwicklung von Lebensverläufen, Entwicklungspsychologie und Psychopathologie, Lebensereignisse, Kognition und Emotionen, Persönlichkeitsforschung sowie kurz- und langfristige Veränderungen spezialisiert. Im Bereich der forensischen Psychologie bietet das Institut ein Studienprogramm in forensischer Psychologie sowie einen klinischen Masterstudiengang in forensischer Psychologie an. Die Forschungen in den Bereichen forensische Psychopathologie, Aggression und Persönlichkeit, die Risikobewertungen, die physiologische Forschung und die längsschnittliche Forschung zu Behandlungswirksamkeit und Behandlungsweisen (Innovationen wie Virtual Reality und e-Gesundheit) gehören zu den besten in Europa. 
• Die Lucy Faithfull Foundation ist die einzige im Vereinigten Königreich präsente Hilfsorganisation, die sich ausschließlich darum kümmert, sexuellen Missbrauch von Kindern zu verhindern. Sie arbeitet mit Erwachsenen und jungen Menschen, die sexuelle Straftaten gegenüber Kindern begangen haben oder bei denen ein Risiko besteht, dass sie solche Straftaten begehen. Außerdem arbeitet sie mit ihren Familienangehörigen sowie mit Fachkräften und Missbrauchsbetroffenen zusammen. Ihre anonyme Beratungsstelle Stop It Now! bietet vertrauliche Beratung,
• Die Lucy Faithfull Foundation ist die einzige im Vereinigten Königreich präsente Hilfsorganisation, die sich ausschließlich darum kümmert, sexuellen Missbrauch von Kindern zu verhindern. Sie arbeitet mit Erwachsenen und jungen Menschen, die sexuelle Straftaten gegenüber Kindern begangen haben oder bei denen ein Risiko besteht, dass sie solche Straftaten begehen. Außerdem arbeitet sie mit ihren Familienangehörigen sowie mit Fachkräften und Missbrauchsbetroffenen zusammen. Ihre anonyme Beratungsstelle Stop It Now! bietet vertrauliche Beratung, Unterstützung und Informationen für alle, die sich über ihre eigenen sexuellen Gedanken oder das Verhalten einer anderen Person gegenüber Kindern Sorgen machen. 

• Offlimits ist Teil des Kompetenzzentrums für sexuellen Kindesmissbrauch im Internet. Offlimits ist der Auffassung, dass der sexuelle Missbrauch von Kindern ein vermeidbares soziales Problem ist, das am besten aus einer Perspektive der öffentlichen Gesundheit angegangen wird, bei der alle Erwachsenen eine Verantwortung für die Prävention haben, einschließlich der Nutzerinnen und Nutzer von Material von sexuellem Kindesmissbrauch. Das Hauptziel von Stop it Now ist die Prävention von sexuellem Kindesmissbrauch, indem jedem, der über seine sexuellen Gefühle und/oder sein Verhalten gegenüber Minderjährigen besorgt ist, mittels einer Notrufnummer anonyme, vertrauliche und kostenlose Hilfe angeboten wird. Dazu gehören zum Beispiel Menschen, die Material konsumieren, das sexuellen Kindesmissbrauch zeigt, oder Menschen, bei denen ein Risiko besteht, dass sie Kinder sexuell missbrauchen, oder die dies bereits getan haben. Offlimits verweist Menschen an das Forensische Ambulanzzentrum de Waag. Nicht nur das Forensische Ambulanzzentrum de Waag, sondern auch Offlimits hat Kontakt zu verschiedenen ambulanten Zentren, Psychologinnen und Psychologen und Sexualwissenschaftlerinnen und -wissenschaftlern überall in den Niederlanden, um die Möglichkeit zu schaffen, Menschen in ihrer eigenen Region weiterzuvermitteln.

Wie wissen Sie, ob Sie den Nutzerinnen und Nutzern der Software vertrauen können?

Es gibt und wird immer Methoden geben, mit denen Straftäterinnen eine solche Technologie umgehen können. Das wichtige Merkmal unserer Zielgruppe ist, dass es sich um Einzelne handelt, die mitmachen wollen, die sich helfen lassen wollen und die sich freiwillig dazu bereit erklärt haben. Das Projekt richtet sich an kooperative, potenzielle oder tatsächliche Konsumentinnen von Darstellungen von sexuellem Kindesmissbrauch, die vermeiden wollen, dass sie mit dem Konsum beginnen oder diesen fortsetzen.

Wird die Polizei informiert, wenn Nutzerinnen und Nutzer nach kriminellen Inhalten suchen?

Wir wollen die Freiwilligen, die an dem Pilotprojekt teilnehmen, nicht verurteilen oder kriminalisieren. Wir erkennen an, dass eine wirksame Prävention Vertrauen und Zusammenarbeit aller Beteiligten erfordert. Wir wissen, dass eine rein repressive Herangehensweise an dieses Phänomen nicht viel Abhilfe schafft. Daher kann das Protech-Projekt ein erster entscheidender Schritt zu einem präventiveren Ansatz sein, der ein zusätzliches Instrument im Kampf gegen sexuellen Kindesmissbrauch darstellt.

Inwiefern ist diese Technologie einzigartig und gab es bereits ähnliche Projekte?

Das Ziel von „Salus“ ähnelt zwar dem anderer Präventionstechnologien, der Unterschied besteht jedoch darin, dass bei all diesen bestehenden Systemen Menschen als Inhaltsmoderator*innen eingesetzt werden müssen. Im Gegensatz dazu werden die Inhalte bei diesem Projekt automatisch moderiert.

Bei einigen bestehenden Technologien, die gestreamte Videos überwachen, wird beispielsweise unabhängig vom Inhalt des Videos ein Bildschirmfoto gemacht und auf einen Server hochgeladen, damit ein Mensch den Inhalt überprüfen und moderieren kann.

Sofern dies nicht gesetzlich erlaubt ist, werden Moderator*innen von Inhalten kriminalisiert, da das Erfassen, Übermitteln und Speichern von Material von sexuellem Kindesmissbrauch eine Straftat darstellt.

Bildschirmfotos können auch von den Plattformen verhindert werden, die es einer Anwendung verbieten können, Bildschirmfotos zu machen. Bei mobilen Bankanwendungen wird dies beispielsweise verweigert, da die App mit dem Hinweis versehen ist, dass sie sensible Daten enthält.

„Salus“ ist anders, denn es nutzt maschinelles Lernen, um die Moderation von Inhalten durchzuführen. Bei gestreamten Videos „sieht“ die Sicherheitstechnologie das Video einen Moment vor den Nutzerinnen und Nutzern, bevor es auf deren Bildschirm erscheint. Wenn das Programm Material von sexuellem Kindesmissbrauch entdeckt, wird der Stream mit sofortiger Wirkung beendet.

Ein weiterer Vorteil der „Salus“-Technologie besteht darin, dass Menschen, bei denen das Risiko besteht, dass sie Bilder konsumieren, mit einem Menschen in Verbindung gebracht werden können, der diese Person in ihren Bemühungen unterstützt, keine schädlichen und illegalen Inhalte zu konsumieren.

Was ist, wenn Salus Inhalte sperrt, die nicht strafbar sind?

Die maschinenlernende Software, die hinter „Salus“ steht, ist sehr genau, aber es besteht immer die Möglichkeit, dass Inhalte, die nicht als strafbar eingestuft werden, gesperrt werden. Rückmeldungen von Nutzerinnen und Nutzern in der Pilotphase und von den Fachkräften, die das Projekt unterstützen, werden dazu beitragen, dass die Software ständig lernt und verbessert wird.

Wann wird das Projekt abgeschlossen?

Protech ist ein auf zwei Jahre angelegtes Projekt, das im März 2023 begann und im März 2025 abgeschlossen sein wird.