Artificiell intelligens: Hot och möjligheter

Europas tillväxt och välstånd är nära kopplade till hur det kommer att använda sig av data och uppkopplad teknik. AI kan göra stor skillnad för våra liv och samhället – på gott och ont – och Europaparlamentet har inrättat en kommitté att undersöka effekten av tekniken. Nedan är några viktiga möjligheter och hot kopplade till framtida tillämpningar av AI.

Läs mer om vad artificiell intelligens är och hur den används.

Fördelar med AI

EU-länderna är redan starka inom digital industri och tillämpningar från företag till företag. Med en högkvalitativ digital infrastruktur och ett regelverk som skyddar integritet och yttrandefrihet skulle EU kunna bli en global ledare inom dataekonomin och dess tillämpningar.

Fördelar med AI för människor

AI skulle kunna hjälpa människor med förbättrad hälsovård, säkrare bilar och andra transportsystem, skräddarsydda, billigare och mer hållbara produkter och tjänster. Det kan också underlätta tillgången till information, utbildning och träning. Behovet av distansutbildning blev viktigare på grund av COVID-19-pandemi. AI kan också göra arbetsplatsen säkrare eftersom robotar kan användas för farliga delar av jobb och öppna nya jobb när AI-drivna industrier växer och förändras.

Annons

Möjligheter till artificiell intelligens för företag

För företag kan AI möjliggöra utvecklingen av en ny generation av produkter och tjänster, inklusive inom sektorer där europeiska företag redan har starka positioner: grön och cirkulär ekonomi, maskiner, jordbruk, hälsovård, mode, turism. Det kan öka försäljningen, förbättra maskinunderhållet, öka produktionen och kvaliteten, förbättra kundservicen samt spara energi.

AI-möjligheter i offentliga tjänster

AI som används i offentliga tjänster kan minska kostnaderna och erbjuda nya möjligheter inom kollektivtrafik, utbildning, energi och avfallshantering och kan också förbättra produkters hållbarhet. På så sätt skulle AI kunna bidra till att uppnå målen EU: s gröna affär.

Stärka demokratin

Demokratin skulle kunna göras starkare genom att använda databaserad granskning, förebyggande desinformation och cyberattacker och säkerställa tillgång till kvalitetsinformation . AI skulle också kunna stödja mångfald och öppenhet, till exempel genom att minska möjligheten till fördomar vid anställningsbeslut och istället använda analytisk data.

AI, säkerhet och säkerhet

AI förutspås användas mer i brottsförebyggande och det straffrättsliga systemet, eftersom massiva datamängder kan bearbetas snabbare, risker för flygning av fångar bedömas mer exakt, brott eller till och med terroristattacker förutsägas och förhindras. Det används redan av onlineplattformar för att upptäcka och reagera på olagligt och olämpligt onlinebeteende.

I militära frågor kan AI användas för försvars- och attackstrategier vid hacking och nätfiske eller för att rikta in sig på nyckelsystem i cyberkrigföring, medan den viktigaste fördelen med autonoma vapensystem är potentialen att engagera sig i väpnad konflikt med minskad risk för fysisk skada.

Hot och utmaningar med AI

Det ökande beroendet av AI-system innebär också potentiella risker.

Underanvändning och överanvändning av AI

Underanvändning av AI anses vara ett stort hot: missade möjligheter för EU kan innebära dåligt genomförande av stora program, som EU:s gröna avtal, förlorade konkurrensfördelar gentemot andra delar av världen, ekonomisk stagnation och sämre möjligheter för människor. Underanvändning kan härröra från allmänhetens och företagens misstro mot AI, dålig infrastruktur, bristande initiativ, låga investeringar eller, eftersom AI:s maskininlärning är beroende av data, från fragmenterade digitala marknader.

Överanvändning kan också vara problematiskt: att investera i AI-applikationer som visar sig inte vara användbara eller att tillämpa AI på uppgifter som den inte är lämpad för, till exempel att använda den för att förklara komplexa samhällsfrågor.

Ansvar: Vem är ansvarig för skada orsakad av AI?

En viktig utmaning är att avgöra vem som är ansvarig för skador orsakade av en AI-driven enhet eller tjänst: i en olycka med en självkörande bil. Ska skadan täckas av ägaren, biltillverkaren eller programmeraren?

Om producenten var helt fri från ansvarsskyldighet, kanske det inte finns något incitament att tillhandahålla bra produkt eller tjänst och det kan skada människors förtroende för tekniken; men regleringar kan också vara för strikta och kväva innovation.

Hot från AI mot grundläggande rättigheter och demokrati

Resultaten som AI producerar beror på hur den är designad och vilken data den använder. Både design och data kan vara avsiktligt eller oavsiktligt partisk. Till exempel kanske vissa viktiga aspekter av ett problem inte är programmerade i algoritmen eller så att de kan reflektera och replikera strukturella fördomar. Dessutom kan användningen av siffror för att representera komplex social verklighet få AI:n att verka saklig och exakt när den inte är det. Detta kallas ibland mathwashing.

Om det inte görs på rätt sätt kan AI leda till beslut som påverkas av data om etnicitet, kön, ålder vid anställning eller avskedande, erbjudande av lån eller till och med i brottmål.

AI kan allvarligt påverka rätten till integritet och dataskydd. Det kan till exempel användas i ansiktsigenkänningsutrustning eller för onlinespårning och profilering av individer. Dessutom gör AI det möjligt att slå samman delar av information som en person har gett till ny data, vilket kan leda till resultat som personen inte förväntar sig.

Det kan också utgöra ett hot mot demokratin; AI har redan fått skulden för att skapa ekokammare online baserade på en persons tidigare onlinebeteende, som endast visar innehåll som en person skulle vilja, istället för att skapa en miljö för pluralistisk, lika tillgänglig och inkluderande offentlig debatt. Det kan till och med användas för att skapa extremt realistiska falska videor, ljud och bilder, så kallade deepfakes, som kan utgöra ekonomiska risker, skada rykte och utmana beslutsfattande. Allt detta kan leda till separation och polarisering i den offentliga sfären och manipulera val.

AI kan också spela en roll för att skada mötes- och protestfriheten eftersom det kan spåra och profilera individer kopplade till vissa övertygelser eller handlingar.

AI inverkan på jobb

Användning av AI på arbetsplatsen förväntas leda till att ett stort antal jobb försvinner. Även om AI också förväntas skapa och skapa bättre jobb, kommer utbildning och träning att ha en avgörande roll för att förebygga långtidsarbetslöshet och säkerställa en kvalificerad arbetskraft.

Att samla information kan också leda till snedvridning av konkurrensen eftersom företag med mer information kan få en fördel och effektivt eliminera konkurrenter.

Säkerhets- och säkerhetsrisker

AI-applikationer som är i fysisk kontakt med människor eller integrerade i människokroppen kan utgöra säkerhetsrisker eftersom de kan vara dåligt utformade, missbrukas eller hackade. Dåligt reglerad användning av AI i vapen kan leda till förlust av mänsklig kontroll över farliga vapen.

Transparensutmaningar

Obalanser i tillgången till information skulle kunna utnyttjas. Till exempel, baserat på en persons onlinebeteende eller annan data och utan deras vetskap, kan en onlineleverantör använda AI för att förutsäga att någon är villig att betala, eller så kan en politisk kampanj anpassa sitt budskap. En annan öppenhetsfråga är att det ibland kan vara oklart för människor om de interagerar med AI eller en person.