Efter tre dagar långa maratonsamtal har rådets ordförandeskap och Europaparlamentets förhandlare nått en provisorisk överenskommelse om förslaget om harmoniserade regler för artificiell intelligens (AI), den så kallade artificiell intelligenslagen. Utkastet till förordning syftar till att säkerställa att AI-system som släpps ut på den europeiska marknaden och används i EU är säkra och respekterar grundläggande rättigheter och EU:s värderingar. Detta landmärkeförslag syftar också till att stimulera investeringar och innovation inom AI i Europa.
Detta är en historisk bedrift och en enorm milstolpe mot framtiden! Dagens överenskommelse tar effektivt upp en global utmaning i en snabbt utvecklande teknisk miljö på ett nyckelområde för framtiden för våra samhällen och ekonomier. Och i denna strävan lyckades vi hålla en extremt känslig balans: ökade innovation och upptagande av artificiell intelligens i hela Europa samtidigt som vi till fullo respekterade våra medborgares grundläggande rättigheter.Carme Artigas, spansk statssekreterare för digitalisering och artificiell intelligens
AI-akten är en flaggskepp lagstiftningsinitiativ med potential att främja utvecklingen och spridningen av säker och pålitlig AI på hela EU:s inre marknad av både privata och offentliga aktörer. Huvudtanken är att reglera AI baserat på den senares förmåga att orsaka skada på samhället efter en "riskbaserad" närma sig: ju högre risk, desto strängare regler. Som det första lagförslaget i sitt slag i världen kan det sätta en global standard för AI-reglering i andra jurisdiktioner, precis som GDPR har gjort, vilket främjar den europeiska strategin för teknisk reglering på världsscenen.
Huvuddelarna i det provisoriska avtalet
Jämfört med kommissionens ursprungliga förslag kan de viktigaste nya delarna av det provisoriska avtalet sammanfattas på följande sätt:
regler om högeffektiva AI-modeller för allmänna ändamål som kan orsaka systemrisk i framtiden, såväl som högrisk AI-system
ett reviderat system för styrning med vissa verkställighetsbefogenheter på EU-nivå
förlängning av listan över förbud men med möjlighet att använda biometrisk fjärridentifiering av brottsbekämpande myndigheter i offentliga utrymmen, med förbehåll för skyddsåtgärder
bättre skydd av rättigheter genom skyldighet för utövare av högrisk-AI-system att genomföra en konsekvensbedömning av grundläggande rättigheter innan ett AI-system tas i bruk.
Mer konkret omfattar det provisoriska avtalet följande aspekter:
Definitioner och omfattning
För att säkerställa att definition av ett AI-system ger tillräckligt tydliga kriterier för att skilja AI från enklare mjukvarusystem, anpassar kompromissavtalet definitionen till det tillvägagångssätt som föreslagits av OECD.
Det provisoriska avtalet klargör också att förordningen inte gäller områden utanför EU-rättens tillämpningsområde och inte i något fall bör påverka medlemsländernas behörighet i nationell säkerhet eller någon enhet som har anförtrotts uppgifter inom detta område. Dessutom kommer AI-lagen inte att gälla för system som uteslutande används för militär or försvaret syften. På samma sätt föreskrivs i avtalet att förordningen inte skulle tillämpas på AI-system som endast används i syfte att forskning och innovation, eller för personer som använder AI av icke-professionella skäl.
Annons
Klassificering av AI-system som högrisk och förbjudna AI-metoder
Kompromissavtalet föreskriver en horisontellt skyddslager, inklusive en högriskklassificering, för att säkerställa att AI-system som sannolikt inte kommer att orsaka allvarliga kränkningar av grundläggande rättigheter eller andra betydande risker inte fångas upp. AI-system presenterar endast begränsad risk skulle utsättas för mycket ljus insynsskyldigheter, till exempel att avslöja att innehållet var AI-genererat så att användare kan fatta välgrundade beslut om fortsatt användning.
Ett brett spektrum av hög risk AI-system skulle vara godkända, men omfattas av en uppsättning krav och skyldigheter för att få tillträde till EU-marknaden. Dessa krav har förtydligats och justerats av medlagstiftarna på ett sådant sätt att de är fler tekniskt genomförbart och mindre betungande för intressenter att följa, till exempel när det gäller kvaliteten på data, eller i förhållande till den tekniska dokumentation som bör upprättas av små och medelstora företag för att visa att deras högrisk-AI-system uppfyller kraven.
Eftersom AI-system utvecklas och distribueras genom komplexa värdekedjor, innehåller kompromissavtalet ändringar som förtydligar ansvarsfördelning och de olika aktörernas roller i dessa kedjor, särskilt leverantörer och användare av AI-system. Den klargör också förhållandet mellan ansvar enligt AI-lagen och ansvar som redan finns enligt annan lagstiftning, till exempel relevant EU-dataskydd eller sektoriell lagstiftning.
För vissa användningar av AI anses risk oacceptabel och därför kommer dessa system att förbjudas från EU. Det provisoriska avtalet förbjuder till exempel kognitiva beteendemanipulation, den oriktade skrotning av ansiktsbilder från internet eller CCTV-bilder, känsla igenkänning på arbetsplatser och utbildningsinstitutioner, social poängsättning, biometrisk kategorisering att sluta sig till känsliga uppgifter, såsom sexuell läggning eller religiös övertygelse, och vissa fall av prediktiv polis för individer.
Brottsbekämpande undantag
Med tanke på särdragen hos brottsbekämpande myndigheter och behovet av att bevara deras förmåga att använda AI i deras viktiga arbete, kom man överens om flera ändringar av kommissionens förslag rörande användningen av AI-system för brottsbekämpande ändamål. Med förbehåll för lämpligt skyddsåtgärder, är dessa ändringar avsedda att återspegla behovet av att respektera sekretessen för känsliga operativa uppgifter i förhållande till deras verksamhet. Till exempel infördes ett nödförfarande som tillåter brottsbekämpande myndigheter att distribuera ett högriskverktyg för AI som inte har klarat bedömning av överensstämmelse förfarande i brådskande fall. Men en specifik mekanism har också införts för att säkerställa detta de grundläggande rättigheterna kommer att vara tillräckligt skyddade mot eventuella missbruk av AI-system.
Dessutom när det gäller användningen av realtid biometrisk fjärridentifiering system i allmänt tillgängliga utrymmen, klargör det provisoriska avtalet målen där sådan användning är absolut nödvändig för brottsbekämpande ändamål och för vilka brottsbekämpande myndigheter därför undantagsvis bör tillåtas använda sådana system. Kompromissavtalet föreskriver ytterligare skyddsåtgärder och begränsar dessa undantag till fall av offer för vissa brott, förebyggande av verkliga, nuvarande eller förutsebara hot, såsom terroristattacker, och sökningar efter personer som misstänks för de allvarligaste brotten.
Allmänna AI-system och grundmodeller
Nya bestämmelser har lagts till för att ta hänsyn till situationer där AI-system kan användas för många olika ändamål (AI för allmänt bruk), och där AI-teknik för allmänt bruk sedan integreras i ett annat högrisksystem. Det provisoriska avtalet tar också upp de specifika fallen av AI-system för allmänt bruk (GPAI).
Särskilda regler har också kommit överens om grundmodeller, stora system som på ett kompetent sätt kan utföra ett brett spektrum av distinkta uppgifter, som att generera video, text, bilder, konversera på sidospråk, datorer eller generera datorkod. Det provisoriska avtalet föreskriver att stiftelsemodeller måste överensstämma med specifika insynsskyldigheter innan de släpps ut på marknaden. En strängare ordning infördes för 'stor påverkan' grundmodeller. Dessa är grundmodeller som tränas med stora mängder data och med avancerad komplexitet, kapacitet och prestanda långt över genomsnittet, vilket kan sprida systemrisker längs värdekedjan.
En ny styrningsarkitektur
I enlighet med de nya reglerna om GPAI-modeller och det uppenbara behovet av att efterleva dem på EU-nivå, an AI Office inom kommissionen har till uppgift att övervaka dessa mest avancerade AI-modeller, bidra till att främja standarder och testpraxis och upprätthålla de gemensamma reglerna i alla medlemsländer. A vetenskaplig panel av oberoende experter kommer att ge råd till AI-kontoret om GPAI-modeller, genom att bidra till utvecklingen av metoder för att utvärdera kapaciteten hos grundmodeller, ge råd om utnämningen och framväxten av grundmodeller med hög effekt och övervaka möjliga materialsäkerhetsrisker relaterade till fundamentmodeller.
Smakämnen AI styrelse, som skulle omfatta medlemsstaternas företrädare, kommer att finnas kvar som en samordningsplattform och ett rådgivande organ till kommissionen och kommer att ge en viktig roll till medlemsstaterna i genomförandet av förordningen, inklusive utformningen av uppförandekoder för stiftelsemodeller. Slutligen en rådgivande forum för intressenter, såsom industrirepresentanter, små och medelstora företag, nystartade företag, civilsamhället och akademin, kommer att inrättas för att tillhandahålla teknisk expertis till AI-styrelsen.
påföljder
Böterna för överträdelser av AI-lagen fastställdes som en procentandel av det felande företagets globala årliga omsättning under föregående räkenskapsår eller ett förutbestämt belopp, beroende på vilket som är högre. Detta skulle vara 35 miljoner euro eller 7 % för överträdelser av de förbjudna AI-applikationerna, 15 miljoner euro eller 3 % för brott mot AI-lagens skyldigheter och 7,5 miljoner euro eller 1,5 % för tillhandahållande av felaktig information. Det provisoriska avtalet föreskriver dock mer proportionerliga tak om administrativa böter för små och medelstora företag och nystartade företag vid överträdelser av bestämmelserna i AI-lagen.
Kompromissavtalet klargör också att en fysisk eller juridisk person kan göra ett klagomål till den berörda personen marknadsövervakningsmyndighet om bristande efterlevnad av AI-lagen och kan förvänta sig att ett sådant klagomål kommer att hanteras i enlighet med den myndighetens särskilda förfaranden.
Öppenhet och skydd av grundläggande rättigheter
Det provisoriska avtalet föreskriver en konsekvensbedömning av grundläggande rättigheter innan ett högrisk-AI-system släpps ut på marknaden av dess utövare. Det provisoriska avtalet föreskriver också ökad öppenhet angående användningen av högrisk AI-system. I synnerhet har vissa bestämmelser i kommissionens förslag ändrats för att indikera att vissa användare av ett högrisk-AI-system som är offentliga enheter också kommer att vara skyldiga att registrera sig i EU-databas för högrisk AI-system. Dessutom lägger nytillkomna bestämmelser tonvikt på en skyldighet för användare av en känsla igenkänningssystem att informera fysiska personer när de utsätts för ett sådant system.
Åtgärder till stöd för innovation
I syfte att skapa ett rättsligt ramverk som är mer innovationsvänligt och att främja evidensbaserat regulatoriskt lärande ska bestämmelserna ang. åtgärder till stöd för innovation har ändrats väsentligt jämfört med kommissionens förslag.
Noterbart har det klargjorts att AI lagstadgade sandlådor, som är tänkta att etablera en kontrollerad miljö för utveckling, testning och validering av innovativa AI-system, bör också möjliggöra testning av innovativa AI-system i verkliga förhållanden. Vidare har nya bestämmelser tillkommit som tillåter testning av AI-system i verkliga förhållandenunder särskilda villkor och skyddsåtgärder. För att lindra den administrativa bördan för mindre företag innehåller det provisoriska avtalet en lista över åtgärder som ska vidtas för att stödja sådana operatörer och innehåller vissa begränsade och tydligt specificerade undantag.
Ikraftträdande
Det provisoriska avtalet föreskriver att AI-lagen ska gälla två år efter dess ikraftträdande, med vissa undantag för särskilda bestämmelser.
Nästa steg
Efter dagens provisoriska överenskommelse kommer arbetet att fortsätta på teknisk nivå under de kommande veckorna för att slutföra detaljerna i den nya förordningen. Ordförandeskapet kommer att överlämna kompromisstexten till medlemsländernas representanter (Coreper) för godkännande när detta arbete är avslutat.
Hela texten kommer att behöva bekräftas av båda institutionerna och genomgå juridisk-lingvistisk översyn innan medlagstiftarna formellt antar den.
Bakgrundsinformation
Kommissionens förslag, som lades fram i april 2021, är ett nyckelelement i EU:s politik för att främja utvecklingen och spridningen på den inre marknaden av säker och laglig AI som respekterar de grundläggande rättigheterna.
Förslaget följer ett riskbaserat tillvägagångssätt och fastställer en enhetlig, horisontell rättslig ram för AI som syftar till att säkerställa rättssäkerhet. Utkastet till förordning syftar till att främja investeringar och innovation i AI, förbättra styrning och effektiv tillämpning av befintlig lag om grundläggande rättigheter och säkerhet, och underlätta utvecklingen av en inre marknad för AI-tillämpningar. Det går hand i hand med andra initiativ, inklusive den samordnade planen för artificiell intelligens som syftar till att påskynda investeringar i AI i Europa. Den 6 december 2022 nådde rådet en överenskommelse om en allmän riktlinje (förhandlingsmandat) i denna fråga och inledde interinstitutionella samtal med Europaparlamentet (”triloger”) i mitten av juni 2023.
EU Reporter publicerar artiklar från en mängd olika externa källor som uttrycker ett brett spektrum av synpunkter. De ståndpunkter som tas i dessa artiklar är inte nödvändigtvis EU Reporters.
