EU tillhandahåller 1.8 miljoner pund i finansiering för att skapa en ny app som är avsedd att minska visningen av sexuellt övergrepp mot barn på internet

Det kommer att testas på frivilliga som har anlitat hjälp på grund av sin attraktion till otillåtna bilder för att försäkra sig om att de inte kan ge efter för sitt begär.

När programmet är installerat på en enhet, till exempel en telefon, kommer programmet att känna igen och förhindra visning av stötande bilder och videor.

Man tror att det kommer att hjälpa till att minska den "ökande efterfrågan" på fotografier av barnmisshandel.

Organisationer från EU och Storbritannien har gått samman i Protech-projektet.

Projektets Salus-app, som använder artificiell intelligens för att identifiera potentiellt pornografisk information och förhindra användare från att se den, är utformad för att fungera i realtid.

Internet Watch Foundation, en organisation som arbetar med att hitta, flagga och ta bort material om övergrepp mot barn, ska hjälpa till att träna AI-tekniken som utvecklats av det brittiska företaget SafeToNet.

Tom Farrell från SafeToNet, som arbetat i 19 år inom brottsbekämpning, sa till BBC att appen inte var avsedd att vara ett verktyg för att polisanmäla användare: "Människor som frivilligt vill sluta se material om sexuella övergrepp mot barn skulle helt klart Använd inte en sådan lösning om de tror att det skulle rapportera dem till polisen."

Annons

"Praktisk hjälp"

Volontärer som laddar ner appen kommer att rekryteras via organisationer som arbetar med individer som söker hjälp eftersom de dras till bilder på övergrepp mot barn.

En sådan organisation är den brittiska välgörenhetsorganisationen Lucy Faithfull Foundation, som driver en hjälplinje för dem som fruktar att de kan ladda ner illegala bilder och vill sluta. Det inkluderar ett betydande antal människor som erkänner att de är pedofiler, av vilka några redan har dömts.

Stiftelsens Donald Findlater sa att verktyg som den nya appen kan hjälpa individer att kontrollera sitt beteende och tillade: "det är ett praktiskt hjälpmedel för människor som känner igen en sårbarhet i sig själva".

Medlemmar av Protech-projektet hoppas att det skulle kunna hejda den "ökande efterfrågan på material för sexuella övergrepp mot barn på nätet".

En ny topp på 30,925 2021 brott som involverade innehav och delning av oanständiga bilder av barn begicks under år 2022/XNUMX, enligt NSPCC.

Förra året a rapport av Police Foundations tankesmedja sa att mängden onlinebrott av sexuella övergrepp mot barn hade "helt enkelt överväldigade brottsbekämpande myndigheters förmåga, internationellt, att svara".

Projektmedlemmar som talade med BBC föreslog att polisen ensam inte skulle hindra människor från att ladda ner bilder.

Herr Farrell hävdar att Storbritannien har arresterat fler individer för innehav av material för sexuella övergrepp mot barn än något annat land i världen sedan 2014 och har i processen identifierat några mycket allvarliga brottslingar.

Men miljontals människor tittar fortfarande på bilder

"Så arrestering kommer inte att vara lösningen. Vi tror att vi kan arbeta på den förebyggande sidan och minska efterfrågan och minska tillgängligheten."

'Pilotstadium'

Många detaljer om hur appen fungerar behöver fortfarande utarbetas. Ingen AI är perfekt och en balans kommer att behöva göras mellan överblockering - vilket skulle göra legitim användning av en enhet svår - och underblockering - som inte kan upptäcka många övergreppsbilder.

Herr Farrell säger att appen kommer att testas i ett "pilotsteg" i fem länder - Tyskland, Nederländerna, Belgien, Irland och Storbritannien med minst 180 användare under en 11-månadersperiod.

Och experter som inte är involverade i projektet tycker att idén lovar.

Professor Belinda Winder vid Nottingham Trent University sa att det var en välkommen utveckling som kan stödja människor som "vill få hjälp att stå emot sina ohälsosamma drifter och som skulle dra nytta av detta skyddsnät".

Som med alla nya tekniska verktyg, skulle djävulen vara i detalj och Prof Winder hade frågor om hur det skulle fungera i praktiken men sa: "Det är ett positivt steg i rätt riktning."

Dela den här artikeln: