Ny EU-finansierad säkerhetsteknik kommer att bidra till att minska visningen och efterfrågan på bilder och videor för sexuella övergrepp mot barn

• Utveckling av unikt verktyg på enheten som lanseras i mars 2023
• Ett tvåårigt, 2 miljoner euro finansierat projekt är ett samarbete mellan experter från EU och Storbritannien
• Teknik kommer frivilligt att installeras på enheter som tillhör personer som riskerar att se material om sexuella övergrepp mot barn
• Användarcentrerad design kommer att fungera i realtid för att förhindra visning av material innan det når skärmen

Ett unikt säkerhetstekniskt verktyg som använder maskininlärning i realtid för att upptäcka bilder och videor för sexuella övergrepp mot barn ska utvecklas i samarbete med experter från EU och Storbritannien.

Det tvååriga Protech-projektet, som lanseras i mars, kommer att undersöka, designa och skapa en app som kan installeras på enheter hos individer som riskerar att komma åt material för sexuella övergrepp mot barn.

Appen kommer att distribueras frivilligt och användarna kommer att ha full kunskap om dess syfte och dess effekt på deras enhet.

Säkerhetsappen kommer att övervaka både nätverkstrafik och bilder som visas på användarens skärm i realtid. Efter att ha installerats kommer appen att köras tyst och kommer inte att kräva användarinteraktion om inte sexuella bilder av barn upptäcks och blockeras.

Samarbetspartners bakom projektet på 2 miljoner euro (1.8 miljoner pund), som finansieras av Europeiska kommissionen, tror att verktyget kan hjälpa till att hejda den växande efterfrågan på material för sexuella övergrepp mot barn online.

Det kommer att förhindra revictimisering av överlevande sexuella övergrepp mot barn som fortsätter att lida i vetskapen om att andra kanske fortfarande kan se bilder och videor av dem online.

Appens unika ligger i dess användarcentrerade design som använder mycket exakta maskininlärningsmodeller för att ge effektiv intervention till individer som fruktar att de kan kränka barn. Det kommer att fungera i realtid för att upptäcka och stoppa visningen av brottsligt innehåll innan det ses av användaren.

Annons

Det kan visa sig vara ett viktigt verktyg för hållbart, långsiktigt förebyggande av sexuellt övergrepp mot barn, tillsammans med aktuella digitala aktiviteter som tar itu med och tar bort bilderna, såsom brottsutredningar och borttagning och hash av bilder.

Projektet leds av ett av de största universitetssjukhusen i Europa, Charité – Universitätsmedizin Berlin (CUB), i samarbete med experter från olika och vitt skilda områden inklusive kriminologi, folkhälsa, utvecklings-, klinisk och rättsmedicinsk psykologi, mjukvaruteknik, barn skydd och internetsäkerhet.

Direktör för Institutet för sexologi och sexuell medicin vid CUB, prof Dr Klaus M Beier sade: "Den ökande konsumtionen och distributionen av material för sexuellt utnyttjande av barn är ett problem av internationell betydelse och kräver forskning om användarbeteende, särskilt i fall som inte är kända för de rättsliga myndigheterna, vilka är betydligt fler än de som är under juridisk utredning eller efter fällande dom. Detta har till stor del försummats tidigare, trots att det är där potentialen för förebyggande är störst.

"Således, med utvecklingen av Salus riktar sig Protech också till självmotiverade och samarbetsvilliga, potentiella eller verkliga användare av bilder av sexuella övergrepp mot barn som vill undvika att börja eller fortsätta konsumera."

Appen, döpt till Salus efter den romerska gudinnan för säkerhet och välbefinnande, ska skapas av det brittiska teknikföretaget SafeToNet som specialiserar sig på cybersäkerhet, med hjälp av innovativ övervakningsteknik i realtid.

SafeToNets operativa chef Tom Farrell QPM sa: "Vi är glada över att kunna tillhandahålla den tekniska expertisen på ett sådant kritiskt projekt. Vi tror att tekniskt förebyggande i ögonblicket har en enorm roll att spela för att hantera konsumtionen och efterfrågan på material för sexuella övergrepp mot barn.”

För att hjälpa till att designa appen kommer projektteammedlemmar från ledare inom effektfokuserad forskning och kunskapsutbyte, Policing Institute for the Eastern Region, baserat vid Anglia Ruskin University i Storbritannien och Department of Developmental Psychology vid Tilburg University i Nederländerna, att undersöka varför och hur förövare börjar titta på sexuella bilder av barn och vad som kan hjälpa dem att sluta.

Deltagarna i studien kommer att vara volontärer, rekryterade av projektteamets partner som tillhandahåller viktiga samhällsförebyggande tjänster – CUB; Storbritanniens Lucy Faithfull Foundation; Stop it Now Nederländerna som är en del av Centrum för expertis om sexuella övergrepp mot barn på nätet; och University Forensic Center inom universitetssjukhuset Antwerpen i Belgien. Intervjuer kommer att genomföras med individer som riskerar att se sexuella bilder av barn samt med professionella på förebyggande stödnivå.

Internet Watch Foundation (IWF), Europas största hotline dedikerad till att hitta och ta bort bilder och videor av sexuella övergrepp mot barn från internet, kommer att tillhandahålla en säker miljö för att träna och testa appens maskininlärningsprogram för att korrekt upptäcka material om sexuella övergrepp mot barn.

IWF:s teknikchef Dan Sexton sa: "Tråkigt nog är efterfrågan på bilder och videor av barn som utsätts för sexuella övergrepp oupphörliga. År 2022 tog IWF bort mer än 255,000 XNUMX webbadresser från internet som innehöll bekräftat material om sexuella övergrepp mot barn.

"Men vi vet att det inte räcker att hitta och ta bort det här fruktansvärda innehållet i den pågående, globala kampen för att stoppa sexuella övergrepp mot barn, vilket är anledningen till att vi är glada över att spela vår roll i detta projekt för att träna och testa mjukvara som kan visa sig avgörande. i att i första hand minska efterfrågan på brottsmaterialet.

"Genom att samarbeta med expertorganisationer i EU och Storbritannien säkerställer vi att den avsedda effekten för detta projekt är så långtgående som möjligt för att hjälpa barn runt om i världen."

Prof Dr Kris Goethals, chef för University Forensic Center (UFC) vid universitetssjukhuset Antwerpen sa: "Sedan covid-pandemin har det skett en ökning av övergreppsbilder online och en stor del av vår behandlingspopulation på vårt öppenvårdscenter (UFC) består av individer som är dömda för sådana handlingar eller som riskerar att begå dessa handlingar .

”Dessa problem observeras över hela världen och kräver en internationell lösning. Tyvärr ger inte ett rent repressivt förhållningssätt till detta fenomen mycket lättnad, därför kan Protech-projektet vara ett första avgörande steg i en mer förebyggande strategi.

"Detta projekt ger alltså ett extra värde i kampen mot sexuella övergrepp mot barn, men förenar också de olika världarna inom brottsbekämpning, förebyggande instanser och samhället i allmänhet."

Direktör för Polisinstitutet för region öst, prof Sam Lundrigan sa: "Onlinemissbruk av barn är en global utmaning som kräver innovativt tänkande i våra kombinerade ansträngningar för att svara. 

"Vi vet att akademiska rön genom forskning som vår kan ge den data som behövs för att stödja projekt som detta, med välgrundad insikt och bevis. Det här är ett spännande projekt som vi är glada över att stödja, och ett som vi hoppas kommer att ha en verklig inverkan, både på de som riskerar att bli kränkta och de som redan har utsatts för övergrepp.”

Ordförande för institutionen för utvecklingspsykologi vid Tilburg University, Prof Dr Stefan Bogaerts sa: "Sexuella övergrepp online är ett komplext och flerdimensionellt problem utan enkla lösningar. Digitala enheter kan spela en roll för att minska sexuella övergrepp online genom att tillhandahålla vissa funktioner och åtgärder som förbättrar användarnas säkerhet, såsom säkerhets- och integritetsinställningar, rapporterings- och blockeringsalternativ.

"Dessutom måste det göras fortsatta investeringar för att öka användarnas medvetenhet om onlinesäkerhet och hur man förebygger sexuella övergrepp. Att förebygga sexuella övergrepp online är ett gemensamt ansvar för teknikföretag, vetenskap, myndigheter och samhället. Tillsammans kan vi arbeta för en kulturell förändring och skapa en säker onlinemiljö för alla användare."

När säkerhetsåtgärden väl har utformats kommer den att rullas ut i ett pilotskede i fem länder – Tyskland, Nederländerna, Belgien, Irland och Storbritannien – som involverar mer än 50 yrkesverksamma och minst 180 användare under en 11-månadersperiod.

SafeToNet kommer att samla feedback från användare och proffs medan piloten pågår och använda den för att ytterligare förbättra och anpassa appens mjukvara.

En del av projektet kommer att innebära att utvärdera och bedöma den potentiella räckvidden och effekten av interventionen i Europa, och ta hänsyn till rekommendationer från experter om hur det effektivt skulle kunna implementeras som en del av folkhälsoförebyggande program.

Med tanke på den stora omfattningen av sexuella bilder av barn som finns tillgängliga online och den växande efterfrågan på innehållet, tror projektgruppen att appen och interventionsprogrammet bakom den också kommer att bidra till att minska arbetsbördan för brottsbekämpande myndigheter som förföljer de brottslingar som är ansvariga för att skapa, distribuera och, i vissa fall tjäna på försäljningen av innehållet.

Donald Findlater, chef för Lucy Faithfull Foundations Stop It Now! Hjälplinje för Storbritannien och Irland, sa: "Förra året kontaktade nästan 5,000 XNUMX personer vår Stop It Now! Storbritannien och Irlands hjälplinje bekymrad över sina egna sexuella tankar eller beteende gentemot barn. De vill ha hjälp att hantera detta så att barn inte kommer till skada och att de inte begår ett brott. Dessutom hade våra online-självhjälpsresurser hundratusentals besökare som letade efter hjälp för att hantera sitt eget eller en anhörigs sexuella beteende online.

”Salus skulle hjälpa många människor som kontaktar oss att sluta titta på sexuella bilder av barn. Detta projekt ger oss möjlighet att stödja dessa människor och lära oss hur vi bättre kan hantera problemet med människor som ser sexuella bilder av barn på nätet. Salus har utsikter att bli en viktig bidragsgivare i den globala kampen mot sexuella övergrepp mot barn på nätet."

Arda Gerkens, VD för Centrum för expertis om sexuella övergrepp mot barn på nätet sa: "Stop it Now Nederländerna är mycket glada över att vara en del av forskningsprojektet Protech. Vår hjälplinje erbjuder stöd, vägledning och självhjälpsresurser online för personer som använder material för sexuellt utnyttjande av barn (CSEM). Individer som kontaktar vår hjälplinje är dock ofta på jakt efter tekniska åtgärder som kommer att hålla dem borta från CSEM.

"I vårt uppdrag att stoppa och förebygga sexuella övergrepp mot barn (online) och arbeta för en säker onlinemiljö för alla, känner vi att forskning och fortsatta förbättringar av stöd- och förebyggande verktyg är avgörande."

Dela den här artikeln: