Europa, första kontinent att reglera IA

En global lagstiftning utan motstycke antogs på EU-nivå förra året, vilket gjorde Europa till den första kontinenten som införde regler för användningen av artificiell intelligens – AI. Lagförslaget lades fram av kommissionen i april 2021 och antogs av Europaparlamentet två och ett halvt år senare. Regleringsprocessen påverkades av tillkomsten av ChatGPT – textgeneratorn som utvecklats av ett kaliforniskt företag och som, utöver AI:s potential, belyste riskerna med dess användning – och fick en skjuts av fenomenet deep fake – dvs. identitetsstöld, som bygger på teknik för videomanipulation.

Lagtexten bör godkännas av Europeiska rådet någon gång i april, och därefter har medlemsstaterna två år på sig att genomföra den. Det återstår att se hur många av dem som kommer att klara tidsfristen, eftersom vissa – till exempel Rumänien – först nu har antagit nationella AI-strategier. Men ett europeiskt land har gått före alla andra – inklusive Bryssel – och har redan inrättat en myndighet som ska övervaka AI. Detta är fallet i Spanien, som har börjat vidta åtgärder för att inrätta det långt innan EU-lagstiftningen trädde i kraft 2022. Således kommer AESIA – Agencia Espaniol de Supervision de la Inteligencia Artificial – utöver sin interna roll, att kunna hjälpa Brysselorganen att genomföra AI-lagstiftningen snabbare och mer effektivt.

I EU-lagstiftningen definieras för första gången system med hög risk och de omfattas av strikta regler

Den europeiska lagstiftningen på AI-området har utformats utifrån behovet av att upprätthålla en balans mellan att skydda demokratin och de grundläggande mänskliga rättigheterna och att uppmuntra forskning, innovation och investeringar på området. Den börjar med att klassificera AI-system efter risker och inför gradvis regler efter dessa risker, upp till ett totalförbud för vissa av dem.

Med andra ord, ju mer riskfylld en ansökan är, desto strängare är reglerna. Således kommer system för innehållsrekommendationer eller spamfilter att ha enklare regler att följa och kommer att betraktas som ”begränsad risk”. De kommer i princip bara att behöva berätta för användarna att de drivs av AI. Andra AI-skapade system med ”hög risk” kommer att bli föremål för strängare kontroll. Medicintekniska produkter, till exempel, kommer att behöva tillhandahålla data av högre kvalitet och ge tydlig information till användarna.

Vissa användningar av dessa ”högrisk-system”, särskilt de som bygger på biometrisk identifiering, t.ex. sociala värderingar som reglerar människors beteende, känsloigenkänning i skolan eller på arbetsplatsen, och till och med vissa typer av förutsägbar polisverksamhet, förbjuds helt och hållet. Kinas system för ansiktsigenkänning faller också inom denna kategori, vilket strider mot principerna för liberala demokratier. Men även i en demokrati är vissa undantag nödvändiga för allvarliga brott som kidnappning eller terrorism. I dessa fall kommer det att vara tillåtet att skanna människors ansikten offentligt med hjälp av biometriska identifieringssystem på distans.

Lagpaketet om AI innehåller bestämmelser om övervakning av tillämpningen av dessa regler, med ett kontor som ska inrättas inom Europeiska kommissionen. Det finns också höga böter för företag som inte följer reglerna, uppskattningsvis 7 % av omsättningen eller 35 miljoner euro. Denna europeiska lagstiftning är en stor seger i kampen mot farorna med oansvarig användning av AI-baserad teknik och ett stort steg framåt jämfört med tillvägagångssättet utomlands. I USA är säkerheten på området beroende av ett gemensamt åtagande från stora företag på området – inklusive Google, Meta, Amazon, Microsoft och OpenIA – att genomföra åtgärder för att flagga AI-genererat innehåll.

Rumänien kastar sig in i kriget mot deep fake med ett lagförslag som inte förbjuder det

Att reglera detta område är desto viktigare eftersom tekniken för videomanipulation har blivit alltmer sofistikerad och mer tillgänglig för allmänheten. Deep faking, som ursprungligen användes för att skapa pornografiskt innehåll utan samtycke, har på bara några år blivit ett kraftfullt vapen för desinformation och manipulation av den allmänna opinionen. Det finns därför en berättigad rädsla i hela det europeiska politiska spektrumet för att teknik som bygger på artificiell intelligens skulle kunna användas i smutskastningskampanjer, för att påverka valkampanjer eller för att införa viktiga politiska åtgärder. Bland de första personerna att falla offer för sådana metoder var de tidigare amerikanska presidenterna Barack Obama och Donald Trump, och bland offren fanns den avlidna drottningen Elizabeth II och påven Franciskus. På senare tid har deep fake även drabbat den europeiska periferin, med manipulerade bilder av Moldaviens president Maia Sandu som sprids på internet.

Mot bakgrund av denna oro för att bekämpa deep-fake har ett lagförslag tagits fram i Rumänien – ett land som för närvarande inte har någon nationell AI-strategi – som inte förbjuder sådana bilder utan endast kräver flaggning av sådana bilder. Enligt initiativtagarna måste ”allmänheten informeras om falskt innehåll”. Hittills har lagförslaget varken antagits eller förkastats.

Regeringen i Bukarest har ännu ingen AI-strategi

Digitaliseringsdepartementet presenterade nyligen en uppdaterad version av utkastet till AI-strategi för 2019. För att visa att man menar allvar med sitt arbete har Digitaliseringschefen också förberett det beslut genom vilket strategin ska antas av regeringen. Antagandet planerades ursprungligen till 2020, och sedan dess och fram till nu har en AI-kommitté inrättats för att samla ”initiativ på området”, det har hållits samråd med företag och forskningsenheter, det har till och med funnits en gemensam arbetsgrupp mellan ministeriet och ett universitet (Tekniska universitetet i Cluj, en stad som har blivit den viktigaste polen för IT-utveckling i Rumänien) och slutligen har forskningsministeriet utvecklat ”en strategisk ram”. Efter flera byten av portföljinnehavare under de senaste regeringarna i Bukarest togs projektet förra året över av den unge digitaliseringsministern Bogdan Ivan.

Vid lanseringen av strategin tidigare i år försäkrade han att dokumentet innehöll förslag från den rumänska kommittén för AI, som i sin tur tog hänsyn till resultaten av samråd med experter. Syftet med strategin skulle kort sagt vara att ”skydda rumänernas rättigheter i onlinemiljön”. Samtidigt betonade den rumänska ministern att strategin är inspirerad av konkreta åtgärder som föreslagits på EU-nivå, men är fast förankrad i de specifika realiteterna och behoven i det rumänska sammanhanget.

Förklaringen till denna förankring i de ”rumänska behoven” är att den rumänska strategin inom AI utvecklades på… EU-medel som erhållits för genomförandet av ”Strategic Framework for the Adoption and Use of Innovative Technologies in Public Administration 2021 -2027”, finansierat av EU:s operativa program för administrativ kapacitet 2014-2020.

Rumäniens ”anmärkningsvärda” resultat av ”prestationer” inom området beredskap för implementering av AI-teknik i regeringen noteras i Oxford Insights Index, där Rumänien rankas på 64:e plats i världen och sist i Östeuropa. Regionen ligger långt efter Västeuropa i detta avseende, enligt den ranking som sammanställts av det brittiska företaget som ger råd till regeringar och företag om AI-möjligheter. I rapporten, som omfattar 193 länder, finns tre av EU:s medlemsländer i Västeuropa med bland de 10 främsta, ledda av USA – Frankrike (6:e), Tyskland (8:e) och Nederländerna (10:e).

Den spanska lärdomen om hur en medlemsstat kan ge konkret hjälp med att genomföra EU-lagstiftning

Ett land som klarar sig mycket bättre än andra medlemmar i EU är, som nämnts ovan, Spanien. Även om Spanien i denna rankning ligger 17 placeringar efter den sista i topp 10, på plats 27, är landet det första EU-land som redan har inrättat en myndighet med en roll i AI-lagstiftningen. Företaget har redan ett kontor i A Coruna, Galiciens ekonomiska och industriella centrum. Det har också en initial budget på 5 miljoner euro och en personalstyrka på 23 personer, med planer på att utöka med fler under året, enligt regeringen i Madrid.

AESIA kommer att vara den viktigaste aktören när det gäller att hantera och leda det spanska AI-ekosystemet och fram till dess att den europeiska lagstiftningen träder i kraft kommer man att utföra frivillig tillsyn över området genom att hålla kontakt med det europeiska ekosystemet och skapa regelbundna testmiljöer för AI-system med hög risk. Därför har AESIA redan börjat arbeta med en sandlåda som är avsedd för spanska företag. Sandlådor är testmiljöer som är avsedda att visa hur något – till exempel en teknik – kan fungera innan det lanseras. Men de är också användbara för lagstiftning. Och det är precis vad AESIA kommer att göra, att tillhandahålla slutsatser från praktiska övningar som kommer att underlätta eventuella ändringar av lagstiftningen innan den genomförs.