Evropský parlament přijal Akt o umělé inteligenci

Evropský zákon o umělé inteligenci, známý jako Akt o umělé inteligenci, který je světovým unikátem, byl nedávno velkou většinou přijat Evropským parlamentem. Zákon je výsledkem více než tříletého úsilí Bruselu o řešení nových problémů v této oblasti, které se v posledním desetiletí objevily rychlým tempem. S nebývalým rozvojem systémů umělé inteligence, který s sebou přinesl i řadu rizik, se objevily nežádoucí jevy, jako jsou například hluboké podvrhy. Text zákona byl navržen tak, aby chránil základní práva občanů, demokracii a právní stát, ale také aby stimuloval inovace a výzkum, přičemž jeho cílem je vytvořit z Evropy lídra v této oblasti. Nové právní předpisy zavádějí dvě úrovně správy pro dohled nad prosazováním práva – jednu národní a jednu evropskou, přičemž členské státy i EU za tímto účelem zřizují nové orgány. Členské státy budou mít v zásadě dva roky na provedení jeho ustanovení po vstupu v platnost, ale některé ze zákazů zákona vstoupí v platnost půl roku po jeho přijetí.

V Rumunsku se v parlamentu projednává zákon proti deep fake

Ačkoli členské státy v této oblasti zatím podnikly jen nesmělé kroky, objevily se pokusy o vnitrostátní regulaci v této oblasti, a to i v Rumunsku, kde se do parlamentu dostal návrh zákona o boji proti deep fake. Návrh zákona, který je velmi kontroverzní, protože podle některých názorů je po vzoru Číny trestán vězením, uvázl v parlamentní debatě. Nyní, když byl zákon o umělé inteligenci přijat, by však mohl být jeho text vylepšen nebo, jak někteří tvrdí, by mohl být vypracován nový, který by splňoval požadavky evropského práva.

„EU splnila svůj slib. Spojili jsme koncept umělé inteligence se základními hodnotami, na nichž stojí naše společnosti. Čeká nás však ještě mnoho práce, která přesahuje samotný Akt o umělé inteligenci. Umělá inteligence nás bude nutit přehodnotit společenskou smlouvu, která je základem našich demokracií, našich vzdělávacích modelů, našich trhů práce a způsobu vedení války. Zákon o umělé inteligenci je výchozím bodem pro nový model správy věcí veřejných založený na technologiích. Nyní se musíme zaměřit na uvedení tohoto zákona do praxe,“ uvedl Dragoș Tudorache, spoluzpravodaj Výboru pro občanské svobody v Evropském parlamentu.

Další spoluzpravodaj Brando Benifei rovněž zdůraznil význam zřízení nového Evropského úřadu pro posuzování dopadů, který „pomůže podnikům začít dodržovat pravidla ještě před jejich vstupem v platnost“.

Nařízení je v současné době v tzv. opravném řízení a očekává se, že bude přijato v nadcházejících měsících, do konce volebního období. Poté ji musí formálně schválit také Evropská rada. Očekává se, že vstoupí v platnost 20 dní po zveřejnění v Úředním věstníku a bude plně použitelný do 24 měsíců od tohoto data, s výjimkou zákazů zakázaných praktik, které budou muset být dodržovány již po šesti měsících. Po 9 měsících musí být také připraveny kodexy postupů, po 12 měsících budou muset být uplatněna pravidla pro obecné účely, včetně správy a řízení, a po 36 měsících povinnosti pro vysoce rizikové systémy.

Podle oficiální tiskové zprávy Evropského parlamentu vydané po přijetí nařízení ukládá umělé inteligenci povinnosti v závislosti na jejích potenciálních rizicích a očekávaných dopadech. Konkrétně zakazuje některé aplikace a jiným ukládá povinnosti. V případě nedodržení ukládá vysoké pokuty. Nová pravidla zakazují některé aplikace umělé inteligence, které ohrožují práva občanů, včetně biometrických kategorizačních systémů. Zakázáno bude také rozpoznávání emocí na pracovištích a ve školách, sociální skórování, prediktivní policejní práce (pokud je založena pouze na profilování osoby nebo vyhodnocování jejích vlastností) a umělá inteligence, která manipuluje s lidským chováním nebo zneužívá zranitelnosti lidí.

Systémy umělé inteligence pro všeobecné účely (GPAI) a modely GPAI, na nichž jsou založeny, musí splňovat určité požadavky na transparentnost, včetně dodržování autorského práva EU a zveřejňování podrobných shrnutí obsahu použitého pro školení. Kromě toho musí být uměle vytvořené nebo zmanipulované obrázky, zvukový nebo video obsah („deep fakes“) jako takové jasně označeny.

Právní předpisy EU poprvé definují vysoce rizikové systémy a podrobují je přísným pravidlům. Začíná klasifikací systémů umělé inteligence podle rizikovosti a postupně zavádí pravidla podle rizikovosti až po úplný zákaz některých z nich. Jinými slovy, čím rizikovější je žádost, tím přísnější jsou pravidla. Systémy doporučování obsahu nebo filtry spamu tak budou mít jednodušší pravidla, která je třeba dodržovat, a budou považovány za „omezené riziko“. Uživatelům budou muset v podstatě pouze sdělit, že jsou poháněny umělou inteligencí. Ostatní „rizikové“ systémy vytvořené umělou inteligencí budou podléhat přísnější kontrole. Některá použití některých „vysoce rizikových systémů“, konkrétně těch, které jsou založeny na biometrickém rozpoznávání, na citlivých rysech a na necíleném shromažďování snímků z internetu nebo kamerových záznamů pro vytváření databází rozpoznávání obličejů, jsou tedy zakázána. Zakázáno je například sociální hodnocení, které reguluje chování lidí, rozpoznávání emocí ve škole nebo na pracovišti a některé druhy prediktivní policie. Výjimkou jsou závažné trestné činy, jako je únos nebo terorismus. V těchto případech bude povoleno skenovat obličeje lidí na veřejnosti pomocí systémů dálkové biometrické identifikace. Pro ostatní vysoce rizikové systémy UI, které mohou významně poškodit zdraví, bezpečnost, základní práva, životní prostředí, demokracii a právní stát, jsou stanoveny určité povinnosti.

Občané mají právo si stěžovat na systémy umělé inteligence

Mezi příklady vysoce rizikového využití UI patří kritická infrastruktura, vzdělávání a odborná příprava, zaměstnanost, základní soukromé a veřejné služby (např. zdravotní péče, bankovnictví), některé systémy v oblasti vymáhání práva, migrace a správy hranic, justice a demokratické procesy (např. ovlivňování voleb). Tyto systémy musí vyhodnocovat a zmírňovat rizika, vést záznamy o používání, být transparentní a přesné a poskytovat lidský dohled. Podle oficiální tiskové zprávy Evropského parlamentu budou mít občané rovněž právo podávat stížnosti na systémy umělé inteligence a obdržet vysvětlení ohledně rozhodnutí založených na vysoce rizikových systémech umělé inteligence, která mají vliv na jejich práva. Balíček zákonů o UI stanoví dohled nad uplatňováním těchto pravidel, přičemž v rámci Evropské komise bude zřízen úřad. Pro společnosti, které nedodržují předpisy, se rovněž předpokládají pokuty ve výši 7 % obratu. Tato evropská legislativa je velkým vítězstvím v boji proti nebezpečí nezodpovědného využívání technologií založených na umělé inteligenci a obrovským krokem vpřed ve srovnání s přístupem v zahraničí. V USA se bezpečnost v této oblasti opírá o společný závazek velkých společností v oboru – včetně společností Google, Meta, Amazon, Microsoft a OpenIA – zavést opatření k označování obsahu generovaného umělou inteligencí.

Hluboká falešná videa používaná pro online podvody

Začátkem tohoto roku oznámil rumunský ministr energetiky Sebastian Burduja, že podá trestní oznámení poté, co byla jeho tvář použita ve falešném videu. Obětí takové online manipulace se stal i guvernér Rumunské národní banky Mugur Isărescu. V obou případech byla k propagaci neexistujících investic použita tvář úředníka. Ihned poté byla v bukurešťském parlamentu dvěma rumunskými poslanci předložena legislativní iniciativa na boj proti tomuto fenoménu deep fake, která stanoví tresty odnětí svobody pro ty, kdo se dopustí natáčení takových videí. Návrh zákona vyvolal rozsáhlou veřejnou diskusi a některé nevládní organizace zabývající se lidskými právy tvrdí, že takový krok by porušil svobodu projevu. Další hlasy podpořily legislativní iniciativu a požadovaly přísné tresty v případech, kdy mají taková videa vážný emocionální nebo finanční dopad. Celá debata – kromě poněkud hejterského způsobu, jakým se návrh zákona zrodil – v podstatě ukazuje potřebu regulace – a to i na národní úrovni – v této oblasti. Poté, co se podoba přijatá Poslaneckou sněmovnou zásadně lišila od podoby Senátu – ten ukládal pachatelům hlubokých falzifikátů pouze finanční tresty, zatímco poslanci šli až k trestu odnětí svobody – byl návrh vrácen k projednání odborným výborům. Což by podle europoslance Dragoșe Tudoracheho bylo dobře, protože podle jeho názoru může přijetí zákona počkat a Rumunsko by se při jeho přípravě mělo řídit ustanoveními zákona o posouzení dopadů.

„Řekl bych, že zákon o hlubokých padělcích v rumunském parlamentu by možná mohl počkat, protože ve skutečnosti prostřednictvím zákona o posouzení dopadů upravujeme i tuto oblast odpovědnosti za hluboké padělky. Takže v podstatě jednou nepřipadá v úvahu. Zákon tak, jak přijde z evropské úrovně, bude v Rumunsku implementován, nebo bude muset být implementován. Jak obtížné to bude, opakuji, záleží na kapacitě, kterou bude mít rumunský stát, aby přilákal správné lidi pro roli, kterou zákon těmto orgánům přiznává (…),“ řekl Dragos Tudorache.

V otevřeném dopise organizace Active Watch, který podpořilo devět dalších lidskoprávních organizací, se poukazuje na to, že text obsahuje nejasnosti a termíny či výrazy, které svědčí o povrchním chápání tohoto jevu. S tímto názorem se ztotožnila i Legislativní rada a regulátor audiovizuálního sektoru CAN.

„Neexistují žádné výjimky, které by chránily formy svobody projevu, jako je používání hluboce falešného obsahu pro pamfletické nebo umělecké účely nebo v komerční produkci (reklama) či ve filmovém průmyslu, jak je tomu již v praxi a jak předpokládá připravovaná evropská legislativa,“ obviňuje Active Watch.