Europski parlament usvojio Zakon o umjetnoj inteligenciji

Europski zakon o umjetnoj inteligenciji, poznat kao AI Act, svjetski prvi, nedavno je usvojio Europski parlament velikom većinom glasova. Zakon je rezultat više od tri godine brige u Bruxellesu za rješavanje novih izazova na tom području, koji su se pojavili u proteklom desetljeću velikom brzinom. S neviđenim razvojem AI sustava, koji je donio i brojne rizike, doveo je do nepoželjnih pojava poput dubokih krivotvorina. Tekst zakona osmišljen je tako da zaštiti temeljna prava građana, demokraciju i vladavinu prava, ali i da potakne inovacije i istraživanje, s navedenim ciljem uspostavljanja Europe kao lidera na tom području. Novo zakonodavstvo uvodi dvije razine upravljanja za nadzor provedbe zakona – jednu nacionalnu i jednu europsku, pri čemu i države članice i EU stvaraju nova tijela u tu svrhu. U načelu, države članice imat će dvije godine za provedbu njegovih odredbi nakon stupanja na snagu, ali će neke zabrane zakona stupiti na snagu pola godine nakon usvajanja.

U Rumunjskoj je zakon protiv dubokog lažiranja u parlamentarnoj raspravi

Iako su države članice do sada poduzele samo stidljive korake u ovom području, bilo je pokušaja nacionalne regulacije u ovom području, uključujući Rumunjsku, gdje je nacrt zakona za borbu protiv dubokog lažiranja stigao u parlament. Iznimno kontroverzan, neki kažu da je napravljen po uzoru na kineski model – jer duboko lažiranje kažnjava zatvorskom kaznom – zakon je zapeo u parlamentarnoj raspravi. Ali sada kada je Zakon o AI usvojen, tekst bi se mogao poboljšati ili, kako neki tvrde, mogao bi se izraditi novi koji bi zadovoljio zahtjeve europskog prava.

“EU je održao svoje obećanje. Povezali smo koncept umjetne inteligencije s temeljnim vrijednostima koje podupiru naša društva. Međutim, predstoji još mnogo posla, koji nadilazi sam Zakon o umjetnoj inteligenciji. AI će nas potaknuti da preispitamo društveni ugovor u srce naših demokracija, naših obrazovnih modela, naših tržišta rada i načina na koji vodimo rat. Zakon o umjetnoj inteligenciji polazište je za novi model upravljanja izgrađen oko tehnologije. Sada se moramo usredotočiti na provođenje ovog zakona u praksi,” rekao je Dragoș Tudorache, suizvjestitelj Odbora za građanske slobode u Europskom parlamentu.

Drugi suizvjestitelj, Brando Benifei, također je naglasio važnost osnivanja novog Europskog ureda za internu reviziju, koji će “pomoći tvrtkama da se počnu pridržavati pravila prije nego što ona stupe na snagu”.

Uredba je trenutno u tzv. proceduri rektifikacije i očekuje se da će biti usvojena u narednim mjesecima, do kraja saborskog mandata. Nakon toga, potrebno je i službeno odobrenje Europskog vijeća. Očekuje se da će stupiti na snagu 20 dana nakon objave u Službenom listu te da će se u potpunosti početi primjenjivati ​​u roku od 24 mjeseca od tog datuma, osim zabrana zabranjenih praksi kojih će se morati pridržavati već nakon šest mjeseci. Također, kodeksi prakse moraju biti spremni nakon 9 mjeseci, pravila opće namjene, uključujući upravljanje, morat će se primjenjivati ​​nakon 12 mjeseci, a obveze za visokorizične sheme – nakon 36 mjeseci.

Prema službenom priopćenju Europskog parlamenta objavljenom nakon usvajanja, uredba nameće obveze umjetnoj inteligenciji, ovisno o njezinim potencijalnim rizicima i očekivanom učinku. Točnije, zabranjuje neke aplikacije i nameće obveze drugima. Također nameće visoke novčane kazne za nepoštivanje. Nova pravila zabranjuju određene AI aplikacije koje ugrožavaju prava građana, uključujući biometrijske sustave kategorizacije. Također će biti zabranjeno prepoznavanje emocija na radnim mjestima i u školama, socijalno bodovanje, prediktivni policijski nadzor (kada se temelji isključivo na profiliranju osobe ili procjeni njihovih karakteristika) i umjetna inteligencija koja manipulira ljudskim ponašanjem ili iskorištava ranjivost ljudi.

Sustavi umjetne inteligencije opće namjene (GPAI) i modeli GPAI na kojima se temelje moraju ispunjavati određene zahtjeve transparentnosti, uključujući usklađenost sa zakonom o autorskim pravima EU-a i objavljivanje detaljnih sažetaka sadržaja koji se koristi za obuku. Osim toga, umjetne ili manipulirane slike, audio ili video sadržaj (“deep fakes”) moraju biti jasno označeni kao takvi.

Zakon EU po prvi put definira sustave visokog rizika i podvrgava ih strogim pravilima. Započinje klasificiranjem AI sustava prema riziku i postupno nameće pravila prema riziku, sve do potpune zabrane nekih od njih. Drugim riječima, što je aplikacija rizičnija, to su pravila stroža. Stoga će sustavi za preporuku sadržaja ili filtri neželjene pošte imati pravila koja će se lakše pridržavati i smatrat će se “ograničenim rizikom”. Oni će u biti samo morati reći korisnicima da ih pokreće AI. Ostali “visokorizični” sustavi stvoreni umjetnom inteligencijom bit će podvrgnuti rigoroznijoj kontroli. Stoga su zabranjene određene upotrebe nekih od ovih “sustava visokog rizika”, točnije onih koji se temelje na biometrijskom prepoznavanju, na temelju osjetljivih značajki i neciljanog prikupljanja slika s interneta ili CCTV snimaka za stvaranje baza podataka za prepoznavanje lica. Na primjer, zabranjena je socijalna procjena koja regulira ponašanje ljudi, prepoznavanje emocija u školi ili na radnom mjestu i neke vrste prediktivnog policijskog rada. Iznimno su dopušteni za teška kaznena djela poput otmice ili terorizma. U tim će slučajevima biti dopušteno skeniranje lica ljudi u javnosti korištenjem sustava daljinske biometrijske identifikacije. Za druge visokorizične sustave umjetne inteligencije – koji imaju značajan potencijal da naškode zdravlju, sigurnosti, temeljnim pravima, okolišu, demokraciji i vladavini prava – predviđene su određene obveze.

Građani se imaju pravo žaliti na sustave umjetne inteligencije

Primjeri visokorizične upotrebe umjetne inteligencije uključuju kritičnu infrastrukturu, obrazovanje i osposobljavanje, zapošljavanje, osnovne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sustave u provedbi zakona, upravljanje migracijama i granicama, pravosuđe i demokratske procese (npr. utjecaj na izbore). Takvi sustavi trebaju procijeniti i ublažiti rizike, održavati zapisnike korištenja, biti transparentni i točni te omogućiti ljudski nadzor. Građani će također imati pravo podnijeti pritužbe na sustave umjetne inteligencije i dobiti objašnjenja o odlukama koje se temelje na visokorizičnim sustavima umjetne inteligencije koje utječu na njihova prava, navodi se u službenom priopćenju za javnost Europskog parlamenta. Paketom zakona o umjetnoj inteligenciji predviđen je nadzor nad primjenom tih pravila, uz osnivanje Ureda pri Europskoj komisiji. Predviđene su i novčane kazne od 7% prometa za tvrtke koje se ne pridržavaju propisa. Ovo europsko zakonodavstvo velika je pobjeda u borbi protiv opasnosti neodgovornog korištenja tehnologija temeljenih na umjetnoj inteligenciji i veliki korak naprijed u usporedbi s inozemnim pristupom. U SAD-u, sigurnost na terenu oslanja se na zajedničku predanost velikih kompanija na tom području – uključujući Google, Meta, Amazon, Microsoft i OpenIA – da provedu mjere za označavanje sadržaja generiranog umjetnom inteligencijom.

Duboko lažni videozapisi koji se koriste za online prijevare

Ranije ove godine, rumunjski ministar energetike Sebastian Burduja najavio je da će podnijeti kaznenu prijavu nakon što je njegovo lice korišteno u dubokom lažnom videu. Guverner Narodne banke Rumunjske, Mugur Isărescu, također je bio žrtva takve online manipulacije. U oba slučaja lice dužnosnika iskorišteno je za promociju nepostojećih investicija. Odmah nakon toga, dva rumunjska zastupnika u Europskom parlamentu podnijela su zakonodavnu inicijativu u parlamentu u Bukureštu za borbu protiv ovog fenomena dubokog lažiranja, koja predviđa zatvorske kazne za one koji budu proglašeni krivima za izradu takvih videa. Nacrt zakona izazvao je veliku javnu raspravu, a neke nevladine organizacije za ljudska prava tvrde da bi se takvim potezom kršila sloboda izražavanja. Drugi su glasovi podržali zakonodavnu inicijativu, pozivajući na oštre kazne u slučajevima kada takvi videozapisi imaju ozbiljan emocionalni ili financijski učinak. Cijela rasprava – osim prilično heiropskog načina na koji je rođen nacrt zakona – u osnovi otkriva potrebu za regulacijom – uključujući na nacionalnoj razini – u ovom području. Nakon što se obrazac koji je usvojio Zastupnički dom radikalno razlikovao od onog u Senatu – potonji je izricao samo financijske kazne za počinitelje dubokih lažiranja, dok su zastupnici išli čak do zatvorske kazne – nacrt je poslan natrag specijaliziranim odbora za razmatranje. Što bi, prema europarlamentarcu Dragoș Tudoracheu, bilo dobro, jer po njegovom mišljenju usvajanje zakona može pričekati, a Rumunjska bi trebala slijediti smjernice IA Acta pri izradi.

“Rekao bih da bi zakon o dubokom lažiranju u rumunjskom parlamentu možda mogao pričekati, jer zapravo, kroz Zakon o IA također reguliramo ovo područje odgovornosti za duboko lažiranje. Dakle, u osnovi, jednom nije opcija. Zakon kakav je će doći s europske razine hoće li se provesti u Rumunjskoj ili će se morati provesti. Koliko će to biti teško, ponavljam, ovisi o kapacitetu koji će rumunjska država imati da privuče prave ljude za ulogu priznatu zakonom za ove vlasti (…)”, rekao je Dragos Tudorache.

U otvorenom pismu Active Watcha, uz podršku devet drugih organizacija za ljudska prava, istaknuto je da tekst sadrži dvosmislenosti i pojmove ili izraze koji pokazuju površno razumijevanje fenomena. Ovo stajalište dijelilo je i Zakonodavno vijeće i audiovizualni regulator CAN.

“Ne postoje iznimke za zaštitu oblika slobode izražavanja, kao što je korištenje duboko lažnog sadržaja u pamfletske ili umjetničke svrhe ili u komercijalnim produkcijama (reklame) ili u filmskoj industriji, kao što je već slučaj u praksi i kako je predviđeno u nadolazeće europsko zakonodavstvo”, navodi Active Watch.