Inte ens en rättegång på 2.4 miljarder dollar stoppar hat på nätet – Silicon Valley var specialbyggd för att skala upp det

I oktober 2021 var professor Meareg Amare doxxed på Facebook. Veckor senare mördades han brutalt i sitt eget hem – skriver Courteney Mukoyi . Nu står Facebooks moderbolag Meta inför ett $ 2.4 miljarder rättegång, anklagad för att ha anstiftat till våld i Amares hemland Etiopien. Amares doxxing var ingen tillfällighet. Hans information föll inte bara i orätta händer – den förstärktes medvetet som en uppmaning till våldsam, vaksam rättvisa. 

I dagens värld har statens roll i att utreda missförhållanden och skydda oskyldiga ersatts av onlinemobs som fungerar som domare, jury och bödel.

Och inte bara i Etiopien. 

I Indien, 20 personer mördades inom loppet av två månader efter att ha anklagats för bortförande av barn över WhatsApp 2018. 

Strax efter bevittnade Tyskland främlingsfientliga upplopp efter rykten i sociala medier hävdade att en tysk dödades av asylsökande. Och bara förra året bröt historiska upplopp ut i Storbritannien efter det tragiska dödandet av tre unga flickor i Southport - underblåst av en våg av desinformation om identiteten på den påstådda mördaren.

I vart och ett av dessa fall riktade sig desinformationen till minoriteter eller muslimska grupper, som redan står inför rekordnivåer av hatbrott. 

Från det ögonblick som en algoritm föds börjar den mutera, lära sig hur – och vem – den ska hata baserat på data och mönster som den lär sig av. Liksom fjärilseffekten förstärks även det minsta spår av partiskhet eller diskriminering omedelbart. 

Från och med då blir det snabbt oigenkännligt. Okontrollerbar. Även till dess skapare. 

Men även om han skulle vilja kan Mark Zuckerberg inte dra ur kontakten. 

Det är inte bara det att maskinen har vuxit ur sin tillverkare, det är också att ingen av de relevanta spelarna har den fullständiga verktygslådan för att innehålla den. Techjättar har den tekniska expertisen men saknar antingen viljan eller den juridiska friheten att agera. Nationella regeringar har lagstiftande makt men går alldeles för långsamt för att hålla jämna steg med innovation. Och civilsamhällets organisationer kanske förstår skadorna bättre än någon annan men saknar infrastruktur eller inflytande för att genomdriva förändringar.

Ta till exempel EU:s Lag för digitala tjänster – föreslog först i slutet av 2020 men tillämpades inte förrän 2024. Under den långa utvecklingsperioden – ChatGPT släpptes först 2022 – förändrades det digitala landskapet dramatiskt, vilket lämnade dess regler föråldrade innan de ens infördes. 

Sedan lagens införande har verkställighet – som bl.a åtgärder att stävja hatretorik på nätet och algoritmisk förstärkning av extremistiskt innehåll – har visat sig vara svårt. Attackerna på minoriteter, inklusive muslimer och judar, är på den högsta nivån någonsin. Extremhögern har till och med Begagnade agera som motivering för sin egen dehumaniserande retorik. 

I FN förra månaden, Mohammad Al-Issa, generalsekreterare för Muslimska världsligan, hävdade att islamofobi är en växande kris. Al-Issa har upprepade gånger varnade att AI skulle kunna beväpna sociala medier, sprida desinformation och rekrytera extremister – det är just därför han hävdar att trosledare måste inkluderas i utvecklingen av etiska ramverk. Hans varningar återspeglar de från påven Franciskus och Vatikanen som hävdar att AI är enskuggan av ondskan'.

Al-Issas ansträngningar att motverka hat har länge föregått dagens AI-debatt. I januari 2020, han ledde en delegation av muslimska ledare till minnesmärket Auschwitz-Birkenau – ett av de ledande islamiska besöken på platsen – vilket understryker ett bredare engagemang för att konfrontera arvet av hat och våld. Idag, när kriget rasar i Mellanöstern, är detta engagemang för att främja interreligiös förståelse mer brådskande än någonsin.

"Om trosledare inte har en plats vid [AI]-evenemang", varnade Al-Issa i en senaste artikeln, "...den framväxande debatten om AI skulle sakna viktiga ämnesexperter som är nödvändiga för att avvärja varje möjlighet till en ny era av AI-driven extremism."

Om några framsteg ska göras måste teknik, politik och gemenskap sluta arbeta isolerat och börja bygga ett gemensamt, samordnat svar. 

För det första måste vi investera i forskning och utveckling bortom Silicon Valley-bubblan, samtidigt som vi minskar vårt beroende av president Trumps allt mer oberäkneliga styre. Därefter bör vi införa nya regler som kräver att företag och organisationer konsulterar intressenter från samhället under hela sin verksamhet, och för att säkerställa att algoritmer tränas på inkluderande datauppsättningar.

Samtidigt måste EU utforska nya verktyg för att upptäcka och mildra den oundvikliga fördomen hos AI-system. Vi bör också lansera universella AI-läskunnighetsprogram och ansvarsplattformar, utbilda allmänheten om potentiella hot mot och ge dem möjlighet att rapportera eventuella klagomål. 

Det som hände i Etiopien eller Southport är inte en anomali, det är en varning för att dagens plattformar inte längre är neutrala utrymmen. De är aktiva aktörer i att forma allmänhetens känslor och beteende – alltför ofta på sätt som uppmuntrar till våld och polariserar samhällen.

I slutändan handlar den här rättegången mot Meta inte bara om ansvarsskyldighet – det handlar om förebyggande. Regulatoriska standarder kommer säkert att hjälpa, men begränsningar måste balanseras av dPhoto by Timothy Hales Bennett on Unsplashiversifiering.

Först då kan vi behålla fördelarna med dessa teknologier utan att överlämna själva idén om rättvisa till en okontrollerbar algoritmisk mobb.

Om författaren:

Courteney Mukoyi är grundare och chef för Justice Code Foundation, som utnyttjar befintliga och framväxande teknologier för att främja mänskliga rättigheter i zimbabwiska samhällen. Han är en CivicTech-entusiast med en Master of Laws-examen i internationell handel från University of Cape Town.

Muyoki har mottagit flera utmärkelser, inklusive 2022 Democracy Innovation Award och 2023 Wangari Maathai AI Impact Award. 2023 valdes han ut till Mandela Washington Fellowship. Han sitter för närvarande i UNHRC Youth Advisory Board och European Union Youth Sounding Board. Han har arbetat med olika organisationer, inklusive Accountability Lab och African Union, för att främja användningen av teknik och artificiell intelligens i mänskliga rättigheter och medborgerligt engagemang. Han är en serieentreprenör som också grundade en InsurTech-startup som heter TopSure, som började sin resa för att skapa unicorn-startups i Afrika.

Foto: Timothy Hales Bennett on Unsplash

Dela den här artikeln: