Verdens første Forordninger for AI-loven og den hastigt udviklende AI-teknologi blev vedtaget af medlemmer af Europa-Parlamentet i går den 13. marts. Forordningen, som blev aftalt af medlemslandene efter forhandlinger i december 2023, blev endelig godkendt af MEP'erne med 523 stemmer for, 46 imod og 49 undlod at stemme (KildeEU's politikere har rost godkendelsen af Lov, men kritikere har advaret om, at lovgivningen repræsenterer en afsløring af virksomheders interesser, og en EU-politisk analytiker har udtalt, at de digitale politikker bruges som en "testmiljø for undertrykkende overvågning repræsenterer et åbenlyst angreb på alles grundlæggende rettigheder"som de fleste af os nu alligevel ville have forventet."

En "risikobaseret tilgang"

De regler, der er forventet  træder i kraft i maj eller juni efter nogle endelige formaliteter med forskellige bestemmelser, der træder i kraft i løbet af de næste par år, "anvender en "risikobaseret tilgang" til AI-produkter og -tjenester."Associeret presse rapporteret Onsdag skrev de: "Langt størstedelen af ​​AI-systemer forventes at være lavrisikosystemer, såsom indholdsanbefalingssystemer eller spamfiltre. Virksomheder kan vælge at følge frivillige krav og adfærdskodekser. Højrisikoanvendelser af AI, såsom i medicinsk udstyr eller kritisk infrastruktur som vand- eller elnetværk, står over for strengere krav, såsom brug af data af høj kvalitet og levering af klare oplysninger til brugerne."

Nogle anvendelser af kunstig intelligens er forbudt, fordi de anses for at udgøre en uacceptabel risiko, såsom sociale scoringssystemer, der styrer folks opførsel, visse typer prædiktiv politiog systemer til genkendelse af følelser i skoler og på arbejdspladser. Andre forbudte anvendelser omfatter Politiet scanner ansigter offentligt ved hjælp af AI-drevne fjernbaserede "biometriske identifikationssystemer", undtagen i tilfælde af alvorlige forbrydelser som kidnapning eller terrorisme.

Mens nogle havde rost loven for dens "positive retningslinjer og beskyttelse baseret på sund fornuft", Lov om kunstig intelligens, har fået mange andre kritikere.

Fiasko fra et menneskerettighedsperspektiv

"Det kan ikke benægtes, at dette er et historisk øjeblik både i EU og globalt: EU har vedtaget en lov om kunstig intelligens. Det er den første af sin slags i verden. Det er et længe ventet, hårdt tilkæmpet og langvarigt lovforslag," skrev Laura Lazaro Cabrera, rådgiver og direktør for Center for Democracy & Technology (CDT) Europas program for lighed og data, onsdag.

"Men for CDT Europe er det en blandet landhandel, når det kommer til at beskytte menneskerettighederne – et af deres centrale mål, trods alt." argumenteret og at loven "vil blive benchmarken for global regulering af AI i det, der er blevet et kapløb med uret, i takt med at lovgivere kæmper med en hastigt udviklet teknologi med vidtrækkende konsekvenser for vores grundlæggende menneskerettigheder."

Loven indfører vigtige begrænsninger for retshåndhævende myndigheders brug af kunstig intelligens, men lovgiverne har undladt at implementere et totalt forbud mod retshåndhævende myndigheders brug af umålrettet ansigtsgenkendelse, og CDT og andre menneskerettighedsforkæmpere advarede om, at en sådan brug ville udgøre uacceptabelt høje menneskerettighedsrisici, især for marginaliserede og udsatte samfund, ifølge Lazaro Cabrera.

Trussel mod retten til at protestere

Hun tilføjer: "Alvorlige risici for menneskerettighederne, når det kommer til AI, er fortsat indeholdt i AI-loven. For eksempel truer lovens undtagelser for ansigtsgenkendelse med at "opsluge reglen" og give mulighed for udbredt ansigtsscanning af retshåndhævende myndigheder på EU's gader – en alvorlig trussel mod for eksempel retten til at protestere...."

"Loven skaber også, hvad der nemt kunne være en overudnyttet undtagelse for den nationale sikkerhed. Selvom loven forbyder brugen af ​​teknologier til følelsesgenkendelse, gælder dette forbud kun for uddannelse og arbejdspladser, hvilket efterlader ubesvarede spørgsmål om, hvorfor loven ikke indførte et forbud mod brugen af ​​disse teknologier som udgangspunkt." 

En sejr for industrien og politiet

Daniel Leufer, seniorpolitisk analytiker ved Bruxelles-kontoret for interessegruppen Få adgang nu, kaldet blokkens milepæl inden for kunstig intelligens lovkrav "en fiasko fra et menneskerettighedsperspektiv og en sejr for industrien og politiet." og han advarede om, at lovgivningen repræsenterer en afsløring af virksomheders interesser og ikke lever op til forventningerne på centrale områder,

"Den nye AI-lov er fyldt med indrømmelser til lobbyvirksomhed i industrien, undtagelser for de farligste anvendelser af AI fra retshåndhævende myndigheder og migrationsmyndigheder, og forbud, der er så fulde af smuthuller, at de faktisk ikke forbyder nogle af de farligste anvendelser af AI," ifølge Leufer.

#AIAct Trods de store udtalelser om, at EU har overvundet lobbyarbejdet for at få vedtaget 'verdens første omfattende' regler for AI, er AI-loven en fiasko set fra et menneskerettighedsperspektiv og en sejr for industri og politi.

Læs @accessnow's perspektiv her: https://t.co/KgWog9nHsn https://t.co/J27GWvWZMP

— Daniel Leufer (@djleufer) Marts 13, 2024

Access Now bemærker især, at den endelige version af AI-loven:

• Undlader at forbyde nogle af de farligste anvendelser af AI korrekt, herunder systemer, der muliggør biometrisk masseovervågning og prædiktive politisystemer;
• Skaber et åbenlyst smuthul via artikel 6(3) for udviklere at fritage sig selv fra forpligtelser vedrørende højrisiko-AI-systemer;
• Fritager retshåndhævende myndigheder og migrationsmyndigheder fra vigtige krav om offentlig gennemsigtighed når de bruger højrisiko-AI, hvilket betyder, at de kan fortsætte med at implementere farlige systemer i hemmelighed;
• Udvider yderligere den nationale sikkerhedsundtagelse ud over, hvad der er tilladt i EU-traktaterne, hvilket giver regeringer mulighed for at fritage sig selv fra forpligtelser i henhold til AI-loven for at forfølge sager, der anses for relevante for den nationale sikkerhed;
• Opretter en separat ordning for personer, der migrerer, søger tilflugt og/eller lever uden dokumenterd, hvilket efterlader dem med langt færre rettigheder end EU-borgere og næsten ingen adgang til klage, når disse rettigheder krænkes.

Amnesty International siger, at EU "prioriterer industriens og retshåndhævelsens interesser".

Amnesty Internationals rådgiver for kunstig intelligens, Mher Hakobyan sagde "Selvom vedtagelsen af ​​verdens første regler om udvikling og implementering af AI-teknologier er en milepæl, er det skuffende, at EU og dets 27 medlemsstater valgte at prioritere interesserne hos industrien og retshåndhævelse myndigheder, der beskytter mennesker og deres menneskerettigheder," 

Samtidig med at man udtrykker bekymring over, hvordan loven vil påvirke migranter, flygtninge og asylansøgere, fremhævede Hakobyan, at "det forbyder ikke hensynsløs brug og eksport af drakoniske AI-teknologier".

"Udgør en betydelig risiko for personer med handicap..."

"Kunstig intelligens kan udgøre betydelige risici for personer med handicap og andre marginaliserede grupper, hvis den ikke reguleres ordentligt. AI-loven omhandler menneskerettigheder, men ikke så omfattende, som vi håbede på – vi opfordrer nu Den Europæiske Union til at lukke dette hul med fremtidige initiativer."

Yannis Vardakastanis, formand for Det Europæiske Handicapforum, sagde i en erklæring, at "AI-loven omhandler menneskerettigheder, men ikke så omfattende, som vi håbede på – opfordrer vi nu Den Europæiske Union til at lukke dette hul med fremtidige initiativer."

Beskyt, ikke overvåg

Access Now og Amnesty er en del af BeskytIkkeOvervåg koalitionen, hvem frigivet en fælles erklæring, der advarer om, at AI-loven "skaber en farlig præcedens", især med dens undtagelser for retshåndhævelse, migrationsmyndigheder og national sikkerhed.

Andre medlemmer af koalitionen inkluderer EuroMed Rights, European Digital Rights og Statewatch, hvis administrerende direktør, Chris Jones, sagde i en erklæring: "Den har alvorlige mangler set fra et synspunkt om grundlæggende rettigheder og bør ikke behandles som en gylden standard for rettighedsbaseret regulering af kunstig intelligens."

Lovgivning bør prioritere mennesker og deres rettigheder

Aktivister håber, at politikere verden over nu tager ved lære af denne lovgivningsproces, og at lovgivningen for kampagnedeltagerne bør respektere befolkningen og prioritere deres menneskerettigheder.

Amnestys Hakobyan understregede, at "lande uden for EU bør lære af blokkens manglende evne til at regulere AI-teknologier tilstrækkeligt og ikke må bukke under for pres fra teknologibranchen og de retshåndhævende myndigheder, mens de udvikler regulering. Stater bør i stedet indføre robust og bindende AI-lovgivning, der prioriterer mennesker og deres rettigheder."

Lázaro Cabrera understregede at "der er så meget på spil i implementeringen af ​​AI-loven, og mens støvet har lagt sig, står vi alle over for den vanskelige opgave at udpakke en kompleks, langvarig og hidtil uset lov. Tæt koordinering med eksperter og civilsamfundet vil være afgørende for at sikre, at lovens fortolkning og anvendelse er effektiv og i overensstemmelse med lovens egne formulerede mål: at beskytte menneskerettigheder, demokrati og retsstatsprincippet."

Karolina Iwańska fra European Center for Not-for-Profit Law svarede ligeledes: "Lad os være klare: Den har alvorlige mangler set fra et synspunkt om grundlæggende rettigheder og bør ikke behandles som en gylden standard for rettighedsbaseret regulering af kunstig intelligens. Når det er sagt, vil vi arbejde på den stærkest mulige implementering."

EP godkendte #AIAct i dag. Lad os være klare: den har alvorlige mangler set fra et synspunkt om grundlæggende rettigheder og bør ikke behandles som en gylden standard for rettighedsbaseret regulering af kunstig intelligens. Når det er sagt, vil vi arbejde på den stærkest mulige implementering. https://t.co/EzfBkF4dEM

— Karolina Iwańska er @ka******@******cy.social (@ka_iwanska) Marts 13, 2024

Access Now udtaler, at "på trods af AI-lovens dybe mangler vil Access Now samarbejde med civilsamfundspartnere for at presse på for den stærkest mulige implementering af AI-loven og de få rettighedsbeskyttende værktøjer, den indeholder, samtidig med at vi fortsat overvåger og påpeger AI-fremmede misbrug."