Gebruikersinzichten dienen als leidraad voor het ontwerpen van een technologie, die het bekijken van misbruikbeelden van minderjarigen moet voorkomen

Door prof. Sam Lundrigan (Directeur van de Policing Institute for the Eastern Region) and dr. Deanna Davy (Senior Researcher, Policing Institute for the Eastern Region), Anglia Ruskin University.

Hoe motiveren we mensen om gebruik te maken van een app die ontwikkeld is om hen te helpen stoppen met het kijken naar misbruikbeelden van minderjarigen? Dit is één van de vele vragen die centraal staan bij Protech – een project dat zicht richt op het aanpakken van de online verspreiding van misbruikbeelden van minderjarigen en de vraag die daarachter schuilgaat.

De beoogde gebruikers van de app zijn personen die erkennen dat ze een potentieel risico hebben om dergelijk strafbaar materiaal te bekijken, of het nu op hun smartphone, tablet of computer is.

De app heet Salus, een baanbrekend stukje technologie ontwikkeld om misbruikbeelden van minderjarigen te identificeren en te blokkeren voordat de gebruiker de beelden te zien krijgt. Op zo’n moment zal dan een bericht verschijnen om de gebruiker op de hoogte te brengen dat de inhoud werd geblokkeerd.

Om te zorgen dat Salus effectief is, is het essentieel dat we een zicht krijgen op hoe de app er moet uitzien, functioneren, door mensen die hulp willen bij het stoppen met kijken naar dergelijk materiaal.

Onze laatste informatiebrief beschrijft hoe we informatie hebben verzameld van personen uit Duitsland, België, het Verenigd Koninkrijk en Ierland. We hebben ook gesproken met hulpverleners van behandelcentra – zowel therapeuten als managers die personen helpen om te gaan met hun verlangen om dergelijke beelden te bekijken.

Onze resultaten tonen dat privacy uiterst belangrijk is voor potentiële gebruikers, gezien de aard van de inhoud die Salus beoogt te blokkeren. Voor velen is het ontdekken en de herkenbaarheid van de app een bezorgdheid, zeker met betrekking tot hun naasten.

Even zorgwekkend was het feit dat de app tegen de persoon gebruikt kan worden, hetzij door het delen van achtergrondgegevens met derden, hetzij als gevolg van een datalek, en de mogelijke ontdekking ervan door de politie wanneer ze het toestel onderzoeken.

Om potentiële gebruikers aan boord te krijgen, zal het Protech project deze bezorgdheden mee moeten nemen bij de ontwikkeling van Salus. Het zal van essentieel belang zijn om een beknopt en duidelijk privacybeleid voor gebruikers op te stellen, waarin wordt uitgelegd hoe de gegevens van de app zullen worden behandeld en opgeslagen, en waarin wordt benadrukt dat het gebruik van de app geen juridische gevolgen zal hebben.

Wanneer een gebruiker toegang heeft tot Salus, hoe zorgen we ervoor dat het voor hen ‘op de juiste manier’ werkt? Uit onze interviews kwam naar voor dat hoe of welke inhoud door de app wordt geblokkeerd, afhankelijk is van de gebruiker.

De meeste deelnemers vroegen of het mogelijk zou zijn om materiaal te blokkeren dat niet direct gerelateerd is aan seksueel misbruik van kinderen, dat wil zeggen om ook pornografische inhoud voor volwassenen te blokkeren. Velen vonden dat inhoud voor volwassenen hen ongevoelig maakte voor beelden van misbruik van minderjarigen en het laagdrempeliger maakte om met het strafbaar gedrag te beginnen.

Meningen verschilden over de manier waarop het bericht moet worden weergegeven wanneer er content geblokkeerd wordt op hun toestel. Het blokkeringsbericht kan gezien worden als nuttig, of niet, afhankelijk van het feit of het doel van Salus niet werd verduidelijkt, het bericht te schockerend of afschrikkend was, of door te veel nadruk te leggen op de strafrechtelijke gevolgen; of positief en ondersteunend, door bijvoorbeeld te wijzen op meer hulpbronnen voor ondersteuning. Als er een gestandaardiseerde blokkeringsboodschap wordt gebruikt, moet deze op zijn minst niet-bedreigend zijn.

Deze resultaten belichten dat de mogelijkheid om een gepersonaliseerde boodschap in de app te maken, alsook om ander materiaal dan seksueel misbruikbeelden te blokkeren uiterst belangrijk zijn voor de app als deel van het behandelprogramma van de gebruiker. Het Salus prototype, of de toekomstige versies, zullen een optionele functie nodig hebben om ook volwassen materiaal te blokkeren. De geschikte blokkeringsinstellingen kunnen besproken en overeengekomen worden tussen de gebruiker en zijn dienstverlener voordat de app wordt gebruikt.

Ook twee andere aspecten van de ontwikkeling van de app werden tijdens de interviews besproken: interactiviteit en verspreiding.

Opties voor interactiviteit voor een toekomstige versie van Salus zouden bijvoorbeeld toegang tot een dagboek kunnen zijn (om bijvoorbeeld na te denken over hoe de app de gebruiker helpt), of gebruikersstatistieken (over bijvoorbeeld hoe vaak ze de blokkeerwaarschuwing hebben ontvangen), die over het algemeen werden aangemoedigd als mogelijke voordelen voor gebruikers.

Hoe de app wordt verspreid, zodat de gebruiker er toegang toe kan krijgen, leverde ook verschillende meningen en zorgen over privacy op. Hoe kan een gebruiker bijvoorbeeld de app downloaden zonder zijn anonimiteit in gevaar te brengen?

Deze zorgen vormen een prioriteit voor het Protech team en verschillende opties worden bekeken om de meest veilige manier aan te bieden om Salus te installeren, zoals het aanreiken van een beveiligde link om de app te downloaden of het voorzien van een offline alternatief, via bijvoorbeeld een USB-stick.  

De verzamelde gegevens zijn van onschatbare waarde voor het vormen en informeren van de werking van het Salus prototype, zodat de app echt gebaseerd is op participatieve, gebruikersgerichte ontwikkelingsaanpak. De app zal weldra klaar zijn om te worden getest en wordt als deel van de pilot begin 2024 uitgerold over verschillende organisaties in vijf Europese landen.

De aanpak van misbruikbeelden van minderjarigen is uitdagend en complex; er bestaat geen kant en klare oplossing om het gebruik en de verspreiding ervan tegen te gaan.

Gebruikersgerichte ontwerptechnologieën, zoals Salus die AI en machine learning gebruiken om misbruikbeelden van minderjarigen te blokkeren, kunnen echter nuttig zijn om mensen te helpen stoppen met het bekijken van dit soort materiaal.

‍