#Artificial Intelligence – EU-lagstiftningen bör sätta säkra gränser för högrisktillämpningar, säger #EESK

Biometrisk igenkänning för spårning, övervakning och detektering av känslor borde inte ha någon plats i Europas människocentrerade syn på artificiell intelligens (AI), säger Europeiska ekonomiska och sociala kommittén (EESK) i sin svar på Europeiska kommissionens vitbok om AI, antogs av EESK:s plenarsammanträde i juli.

EU-kommissionen har föreslagit att en AI-applikation ska betraktas som högrisk om den involverar både en högrisksektor (sjukvård, transport, energi och delar av den offentliga sektorn) och högriskanvändning, med några få undantag som är återstår att definiera. Endast om dessa två villkor är uppfyllda, föreslår kommissionen, bör vi tala om högrisk AI, som skulle falla under specifika regleringar och styrningsstrukturer.

EESK anser att denna definition riskerar att skapa potentiellt farliga kryphål. Facebooks politiska reklam är ett utmärkt exempel, säger kommittén.

"Reklam är en lågrisksektor och Facebooks nyhetsaggregationsfunktion kan betraktas som en lågriskanvändning. Men", hävdar opinionsföredraganden Catelijne Muller, "har vi sett under valkampanjer att spridningen över Facebook av falska nyheter och deepfakes genererade med hjälp av AI kan ha många negativa effekter och påverka hur folk röstar, med inblandning även från utanför Europa."

Ska det finnas undantag från detta, och hur många ska det finnas? Istället för att göra en lista över undantag anser EESK att det vore bättre att upprätta en förteckning över gemensamma egenskaper för att betraktas som högrisk, oavsett sektor.

Många ansökningar har en stark inverkan på de grundläggande rättigheterna, betonar Muller, inte bara på människors integritet, utan också på deras rätt att demonstrera eller till exempel gå med i ett fackförbund.

Den mörka sidan av biometrisk igenkänning

Annons

Ansikts- och biometrisk igenkänning är ett nyckelområde där AI berör grundläggande rättigheter. Dess användning kan tillåtas för personlig identifiering - och regleras verkligen av den allmänna dataskyddsförordningen.

Men den utbredda användningen av AI-driven biometrisk igenkänning för övervakning eller för att spåra, bedöma eller kategorisera mänskligt beteende eller känslor bör förbjudas. Desto mer som det inte finns några som helst vetenskapliga bevis för att vi kan urskilja en persons känslor utifrån deras biometri, betonar Muller.

Spårnings- och spårningsappar för covid-19

EESK varnar också för att en okontrollerad ökning av spårnings- och spårningsteknik letar sig in i vårt samhälle mycket snabbare och med mycket mindre granskning än tidigare, i ett försök att bekämpa coronavirusutbrottet.

"AI-tekniker och tillvägagångssätt för att bekämpa pandemin bör vara lika robusta, effektiva, transparenta och förklarliga som alla andra AI-tekniker i alla andra situationer", säger EESK:s föredragande. "De bör upprätthålla mänskliga rättigheter, etiska principer och lagstiftning. De bör också vara frivilliga, för, vare sig vi vill det eller inte, kommer många tekniker som introducerades under krisen att bli permanenta."

EESK hoppas att kommissionen kommer att ta till sig dess synpunkter, vilket den har gjort med de rekommendationer som EESK har lagt fram sedan dess banbrytande åsikt om AI 2017, som först kämpade för ett "mänskligt befäl" förhållningssätt till AI i Europa.

Bakgrund

Smakämnen Vitbok om AI, en del av ett omfattande paket med åtgärder om AI som tillkännages i Europeiska kommissionens meddelande Shaping Europe's digital future, lägger fram:

• Åtgärder för att effektivisera forskning, främja samarbete mellan medlemsländer och öka investeringar i AI, och;
• politiska alternativ för ett framtida EU-regelverk för AI, med starkt fokus på högrisktillämpningar.

I februari 2020 inledde kommissionen ett offentligt samråd om vitboken som pågick till den 14 juni och drog in över 1 200 svar på frågeformulären och cirka 700 skriftliga inlagor. Kommissionen bearbetar för närvarande denna input och kommer snart att publicera en rapport.

Shaping Europe's digital future beskriver de åtgärder som Europeiska kommissionen planerar att vidta för att säkerställa ett Europa som är lämpligt för den digitala tidsåldern, en av Ursula von der Leyens högsta prioriteringar under hennes tid som ordförande för Europas verkställande organ. Den bygger på tre nyckelpelare:

• Teknik som fungerar för folket;
• en rättvis och konkurrenskraftig digital ekonomi, och;
• ett öppet, demokratiskt och hållbart samhälle.

EESK har lämnat sina råd om "Forma Europas digitala framtid" i en , som också antogs vid EESK:s plenarsammanträde i juli, med en viktig rekommendation:

"Den digitala omvandlingens snabba hastighet gör att vi inte vet vilken ny utveckling som kommer nästa månad. Vi måste därför vara flexibla och anpassningsbara. Detta kräver ständig dialog mellan alla inblandade parter. EESK, som röst för organiserade civila samhället, borde vara en del av det, och vi ber kommissionen att inrätta en sådan permanent dialog”, sade yttrandeföredraganden Ulrich Samm.

Dela den här artikeln: