Subscribe
Prošlo je više od 60 godina od trenutka kada je pojam umjetne inteligencije prvi put predložen i proučen i da čovječanstvo dosegne svoje trenutne sposobnosti. U posljednjem desetljeću područje umjetne inteligencije (AI) znatno je napredovalo, ali nikad brže nego u posljednje dvije godine kada su se brojni čimbenici okupili na gotovo idealan način i čovječanstvu pružili spektakularne programe kao što je ChatGPT.
Europska komisija zahtijeva od internetskih platformi da jasno identificiraju sadržaj – slike (fotografije i videozapise), zvukove, tekstove – koje generira umjetna inteligencija. Potpredsjednica Europske komisije za vrijednosti i transparentnost Vera Jourova uputila je poziv potpisnicama kodeksa najbolje prakse EU-a protiv dezinformacija, s kojima se nedavno sastala u Bruxellesu. To je nova mjera u strategiji Komisije za sprečavanje širenja dezinformacija, posebno dezinformacija na internetu, kako bi se osigurala zaštita europskih vrijednosti i demokratskih sustava.
Izvršna vlast EU-a želi odmah provesti tu mjeru, iako će najveće platforme, s više od 45 milijuna aktivnih korisnika u EU-u, podlijegati obvezama novog Akta o digitalnim uslugama (DSA) tek od 25. kolovoza. Uredbom se zahtijeva “upotreba vidljivog označivanja” kako bi se osigurala prepoznatljivost “generiranog ili manipuliranog audio ili videosadržaja”.
Kodeks prakse nije pravno obvezujući
Kodeks prakse protiv dezinformacija, potpisan 2022., koji nije pravno obvezujući, okuplja oko 40 organizacija, uključujući Facebook, Google, YouTube i TikTok. Zanimljivo je da je Twitter nedavno napustio grupu.
”Potpisnici koji integriraju generativnu umjetnu inteligenciju u svoje usluge kao što su Bing Chat za Microsoft i Bard za Google, trebali bi integrirati potrebne zaštitne mjere kako zlonamjerni akteri ne bi mogli koristiti te usluge koji generiraju dezinformacije”, rekla je Vera Jourova.
S druge strane, potpisnici koji imaju usluge za koje je vjerojatno da će širiti dezinformacije generirane umjetnom inteligencijom trebali bi uspostaviti tehnologiju za prepoznavanje tog sadržaja i jasno ga naznačiti korisnicima, dodao je dužnosnik EU-a.
Uredbom o umjetnoj inteligenciji zabranjuje se “namjerna” manipulacija
Europska unija trenutačno pregovara o posebnom zakonodavstvu o umjetnoj inteligenciji kojim bi se propisale obveze transparentnosti za generatore uredničkog sadržaja ChatGPT-a. Nakon višemjesečnih intenzivnih rasprava, zastupnici su krajem travnja postigli privremeni politički dogovor o prvoj svjetskoj uredbi o umjetnoj inteligenciji. Zakon o umjetnoj inteligenciji zakonodavni je prijedlog za reguliranje umjetne inteligencije na temelju njezina potencijala da nanese štetu i utječe na namjere korisnika društvenih medija da glasaju. Očekuje se kako će se u tekstu, koji će vjerojatno doživjeti promjene, glasovati u Europskom parlamentu. Njegova načela uključuju ljudsku agenciju i nadzor, tehničku robusnost i sigurnost, privatnost i upravljanje podacima, transparentnost, socijalnu dobrobit i dobrobit okoliša, raznolikost, nediskriminaciju i pravednost.
Jedna od najkontroverznijih tema razgovora u pregovorima odnosila se na sustave umjetne inteligencije koji nemaju posebnu svrhu. Ishod – provizorni – bio je nametanje strožih obveza potkategoriji umjetne inteligencije opće namjene, koja uključuje modele kao što je GhatGPT. Također je utvrdilo da bi generativne modele umjetne inteligencije trebalo osmisliti i razviti u skladu s propisima EU-a i temeljnim pravima, uključujući slobodu izražavanja.
Druga politički osjetljiva tema bila je vrsta aplikacija umjetne inteligencije koje bi trebalo zabraniti jer se smatraju neprihvatljivim rizikom. To je dovelo do prijedloga o zabrani alata umjetne inteligencije za opće praćenje međuljudske komunikacije, ali se od tog prijedloga odustalo. S druge strane, uvedeno je produljenje zabrane softvera za biometrijsku identifikaciju. U početku se ova zabrana primjenjivala samo u stvarnom vremenu, ovaj softver za priznavanje mogao se koristiti samo ex post za teška kaznena djela i uz predsudsko odobrenje.
Uredbom o umjetnoj inteligenciji zabranjuje se i “namjerna” manipulacija. Riječ “namjerno” bila je predmet rasprave, jer su protivnici ove formulacije tvrdili da bi namjeru moglo biti teško dokazati, ali je na kraju prihvaćena. Istodobno je postignuta formula u kojoj je zabranjena upotreba softvera umjetne inteligencije za prepoznavanje emocija u područjima kaznenog progona, upravljanja granicama, zapošljavanja i obrazovanja.
Zabrana prediktivnog policijskog rada zastupnika proširena je s kaznenih na upravna kaznena djela, na temelju skandala s nizozemskim doplatkom za djecu zbog kojeg su tisuće obitelji pogrešno procesuirane zbog prijevare zbog manjkavog algoritma koji koristi umjetna inteligencija.
Naposljetku, visokorizični modeli umjetne inteligencije razvrstani su u prilog. To znači da će se model visokog rizika smatrati modelom koji predstavlja značajan rizik za zdravlje, sigurnost ili temeljna prava. Isto tako, umjetna inteligencija koja se upotrebljava za upravljanje kritičnom infrastrukturom, kao što su energetske mreže ili sustavi upravljanja vodama, također će se klasificirati kao visokorizična ako uključuje ozbiljan rizik za okoliš.
Zastupnici su uključili i dodatne mjere za postupak kojim pružatelji visokorizičnih modela umjetne inteligencije mogu obrađivati osjetljive podatke, kao što su seksualna orijentacija ili vjerska uvjerenja, kako bi otkrili negativne predispozicije. Konkretno, kako bi se omogućila obrada te određene vrste podataka, pristranosti se ne smiju otkriti sintetičkom, anonimiziranom, pseudonimiziranom ili šifriranom obradom podataka. Osim toga, procjena se mora provoditi u kontroliranom okruženju. Osjetljivi podaci ne mogu se prenijeti drugim stranama i moraju se izbrisati nakon procjene pristranosti. Pružatelji također moraju dokumentirati zašto je došlo do obrade podataka. Umjetna inteligencija (AI) smatra se “tehnologijom koja definira budućnost”.
Što je točno umjetna inteligencija i kako ona već utječe na naše živote? Definicija umjetne inteligencije
Umjetna inteligencija smatra se ključnom za digitalnu transformaciju društva i postala je prioritet Europske unije, što se odražava u njezinim službenim dokumentima. Očekuje se da će buduće primjene donijeti ogromne promjene u društvu, ali umjetna inteligencija već je prisutna u našem svakodnevnom životu. Umjetna inteligencija je sposobnost stroja da oponaša ljudske funkcije kao što su rasuđivanje, učenje, planiranje i kreativnost. Umjetna inteligencija omogućuje tehničkim sustavima da percipiraju okruženje u kojem djeluju, obrađuju tu percepciju i rješavaju probleme, djelujući kako bi postigli određeni cilj. Računalo prima podatke (ili već pripremljene ili prikupljene putem vlastitih senzora, kao što je kamera), obrađuje ih i zatim reagira.
Sustavi umjetne inteligencije mogu u određenoj mjeri prilagoditi svoje ponašanje, analizirajući učinke prethodnih djelovanja i djelujući autonomno. Neke tehnologije umjetne inteligencije postoje više od 50 godina, ali povećana računalna snaga, dostupnost ogromnih količina podataka i novi algoritmi doveli su do velikog napretka u umjetnoj inteligenciji posljednjih godina.
Kako se koristi duboka lažna ili propagandna tehnologija?
Današnji mediji pogođeni su velikim problemima koje stvara umjetna inteligencija koja “pustoši medijski svijet”. Studija Reportera bez granica (RSF) analizirala je stanje novinarstva u 180 zemalja, uzimajući u obzir političke, društvene i tehnološke promjene.
Nalazi su zabrinjavajući. Izvanredan razvoj umjetne inteligencije stvara još više problema medijima. U izvješću se navodi da industrija dezinformiranja širi manipulativni sadržaj u velikim razmjerima, kao što je pokazala istraga konzorcija Zabranjene priče, te da umjetna inteligencija ne uzima u obzir zahtjeve kvalitetnog novinarstva.
Program umjetne inteligencije (peta verzija Midjourneyja) koji generira slike vrlo visoke razlučivosti kao odgovor na verbalne upute hrani društvene medije sve vjerojatnijim i neotkrivenim lažnim “fotografijama”. Mnogi od ovih postova postaju viralni. Novinarstvo od javnog interesa suočilo se s velikom konkurencijom obmanjujućih narativa i lažnih vijesti koje promiču određeni mediji i političari te softver za umjetnu inteligenciju, posebno u kontekstu pandemije Covid-19 i, u novije vrijeme, rata u Ukrajini. Nažalost, ima dovoljno ljudi koji imaju tendenciju vjerovati lažnim informacijama, što ponekad konvergira s ruskom propagandom i potiče nepovjerenje u medije.