När det gäller extremism online är Big Tech fortfarande vårt huvudproblem

Under de senaste två månaderna har lagstiftare i Storbritannien och Europa infört ett antal större nya räkningar som syftar till att stävja den skadliga roll som Big Tech spelar i spridningen av extremistiskt och terroristinnehåll online, skriver Counter Extremism Executive Director Project David Ibsen.

I detta nya lagstiftningsklimat börjar sociala mediejättar som Facebook, Twitter och YouTube, som i åratal har varit självbelåtna, om inte medvetet försumliga, när det gäller att bevaka sina plattformar, äntligen att komma under press. Föga förvånande är att deras försenade ansträngningar att blidka regeringar genom självreglerande initiativ som Digital Trust and Safety Partnership redan ger vika för ett sökande efter syndabockar.

På sistone, Big Tech förespråkar har börjat främja idén att extremistiskt och terroristinnehåll online förblir ett problem enbart för mindre sociala medier och alternativa krypterade plattformar. Även om det verkligen är värt att ta sig an extremism och terrorism på mindre och alternativa webbplatser, är den övergripande berättelsen här mer än lite bekväm för Silicon Valley och bristfällig i ett antal avgörande avseenden.

Spridningen av extremist- och terroristmaterial är fortfarande ett stort problem för Big Tech. För det första är vi ännu inte i närheten av det utlovade landet med en vanlig social mediamiljö fri från extremistiska meddelanden. Långt ifrån Big Tech ledande inom innehållsmoderering, fann en studie av medieansvar som publicerades i februari i år att Facebook, Twitter och YouTube håller på att betydligt överträffat av mindre plattformar i deras ansträngningar att eliminera skadliga inlägg.

Samma månad upptäckte CEP-forskare en omfattande cache av ISIS innehåll på Facebook, inklusive avrättningar, uppmaningar att begå våldshandlingar och stridsfilmer, som helt ignorerats av moderatorer.

Den här veckan, med antalet antisemitiska våld som ökade i USA och Europa, har CEP återigen identifierat explicit nynazistiskt innehåll över en mängd vanliga plattformar inklusive YouTube, Facebook-ägda Instagram och Twitter.

För det andra, även i en föreställd framtid där extremistisk kommunikation sker främst genom decentraliserade plattformar, skulle extremistiska grupper fortfarande vara beroende av någon form av koppling till vanliga butiker för att utöka sin ideologiska stödbas och rekrytera nya medlemmar.

Annons

Varje berättelse om radikalisering börjar någonstans och att reglera Big Tech är det största steget vi kan tänkas ta för att förhindra att vanliga medborgare dras ner i extremistiska kaninhål.

Och även om farligt och hatiskt innehåll kan flöda mer fritt på omodererade webbplatser, vill extremister och terrorister fortfarande ha tillgång till stora, vanliga plattformar. Facebooks, Twitters, YouTubes och andras nästan allestädes närvarande ger extremister möjligheten att nå en bredare publik – att antingen skrämma eller rekrytera så många människor som möjligt. Till exempel fick Christchurch-mördaren Brenton Tarrant, som började livestreama sina grymheter på Facebook Live, sin attackvideo återuppladdad mer än 1.5 miljoner gånger.

Oavsett om det är jihadists försöker antända ett världsomspännande kalifat eller nynazister försöker starta ett raskrig, är målet med terrorism idag att fånga uppmärksamhet, inspirera likasinnade extremister och destabilisera samhällen i största möjliga utsträckning.

För detta ändamål kan de förstärkande effekterna av stora sociala mediekanaler helt enkelt inte underskattas. Det är en sak för en extremist att kommunicera till en liten grupp ideologiska kohorter på ett dunkelt krypterat nätverk. Det är något helt annat för dem att dela sin propaganda med hundratals miljoner människor på Facebook, Twitter eller YouTube.

Det skulle inte vara någon överdrift att säga att att förhindra det senare från att hända genom effektiv reglering av Big Tech skulle hjälpa till att i grunden ta itu med modern terrorism och förhindra extremister och terrorister från att nå en vanlig publik.

Den ökande decentraliseringen av extremism på nätet är en viktig fråga som lagstiftare måste ta itu med, men alla som tar upp det för att försöka dölja vikten av att reglera Big Tech har helt enkelt inte allmänhetens bästa för ögonen.

David Ibsen är verkställande direktör för Counter Extremism Project (CEP), som arbetar för att bekämpa det växande hotet från extremistisk ideologi, särskilt genom att avslöja extremisters missbruk av finans-, affärs- och kommunikationsnätverk. CEP använder de senaste kommunikations- och tekniska verktygen för att identifiera och motverka extremistisk ideologi och rekrytering online.

Dela den här artikeln: