Evropa, první kontinent, který reguluje IA

V loňském roce byla na úrovni EU schválena bezprecedentní globální legislativa, díky níž se Evropa stala prvním kontinentem, který zavedl pravidla pro používání umělé inteligence. Návrh zákona předložila Komise v dubnu 2021 a Evropský parlament jej přijal o dva a půl roku později. Regulační proces byl ovlivněn nástupem ChatGPT – generátoru textů vyvinutého kalifornskou společností, který kromě potenciálu umělé inteligence upozornil i na rizika jejího používání – a byl podpořen rozmachem fenoménu deep fake, tj. krádeží identity, která se opírá o technologii manipulace s videem.

Podobu textu zákona by měla Evropská rada schválit někdy v dubnu a poté budou mít členské státy dva roky na jeho implementaci. Uvidíme, kolika z nich se podaří termín dodržet, protože některé z nich – například Rumunsko – teprve nyní přijímají národní strategie v oblasti umělé inteligence. Jedna evropská země však všechny předběhla – včetně Bruselu – a již zřídila agenturu pro dohled nad umělou inteligencí. To je případ Španělska, které začalo podnikat kroky k jeho zavedení dlouho předtím, než v roce 2022 vstoupily v platnost právní předpisy EU. AESIA – Agencia Espaniol de Supervision de la Inteligencia Artificial – tak bude moci nad rámec své interní role pomáhat bruselským orgánům rychleji a účinněji implementovat právní předpisy v oblasti umělé inteligence.

Evropské právo poprvé definuje vysoce rizikové systémy a podrobuje je přísným pravidlům.

Evropské právní předpisy v oblasti umělé inteligence byly vytvořeny s ohledem na potřebu zachovat rovnováhu mezi ochranou demokracie a základních lidských práv a podporou výzkumu, inovací a investic v této oblasti. Vychází z klasifikace systémů AI podle rizik a postupně zavádí pravidla podle těchto rizik až po úplný zákaz některých z nich.

Jinými slovy, čím rizikovější je žádost, tím přísnější jsou pravidla. Systémy doporučování obsahu nebo filtry spamu tak budou mít jednodušší pravidla, která je třeba dodržovat, a budou považovány za „omezené riziko“. Uživatelům budou muset v podstatě pouze sdělit, že jsou poháněny umělou inteligencí. Ostatní „vysoce rizikové “ systémy vytvořené umělou inteligencí budou podléhat přísnější kontrole. Například zdravotnické prostředky budou muset poskytovat kvalitnější údaje a budou muset uživatelům poskytovat jasné informace.

Některá použití některých „rizikových systémů“, konkrétně těch, které se opírají o biometrické rozpoznávání, jako je sociální hodnocení, které reguluje chování lidí, rozpoznávání emocí ve škole nebo na pracovišti, a dokonce i některé druhy prediktivní policejní kontroly, jsou zakázána úplně. Do této kategorie spadají i čínské systémy rozpoznávání obličejů, což je v rozporu se zásadami liberálních demokracií. I v demokracii jsou však nutné výjimky v případě závažných trestných činů, jako je únos nebo terorismus. V těchto případech bude povoleno skenovat obličeje lidí na veřejnosti pomocí systémů dálkové biometrické identifikace.

Balíček zákonů o UI stanoví dohled nad uplatňováním těchto pravidel, přičemž v rámci Evropské komise bude zřízen úřad. Společnostem, které nedodrží předpisy, hrozí také vysoké pokuty, jejichž výše se odhaduje na 7 % obratu nebo 35 milionů eur. Tato evropská legislativa je velkým vítězstvím v boji proti nebezpečí nezodpovědného využívání technologií založených na umělé inteligenci a obrovským krokem vpřed ve srovnání s přístupem v zahraničí. V USA se bezpečnost v této oblasti opírá o společný závazek velkých společností v oboru – včetně společností Google, Meta, Amazon, Microsoft a OpenIA – zavést opatření k označování obsahu generovaného umělou inteligencí.

Rumunsko se vrhá do války proti deep fake zákonem, který ho nezakazuje

Regulace této oblasti je o to důležitější, že technologie manipulace s videem je stále dokonalejší a veřejnosti dostupnější. Deep faking, který se původně používal k vytváření nekonsensuálního pornografického obsahu, se během několika let stal mocnou zbraní v oblasti dezinformací a manipulace s veřejným míněním. Napříč evropským politickým spektrem tak panují oprávněné obavy, že by technologie založená na umělé inteligenci mohla být použita v očerňovacích kampaních, k ovlivňování volebních kampaní nebo k prosazování důležitých politických opatření. Mezi prvními osobnostmi, které se staly obětí těchto praktik, byli bývalí prezidenti USA Barack Obama a Donald Trump, mezi oběti patřila i zesnulá královna Alžběta II. a papež František. Nedávno se falešná fotografie dostala i na evropskou periferii a na internetu se objevily zfalšované snímky moldavské prezidentky Maiy Sanduové.

V souvislosti s obavami z boje proti deep-fake se v Rumunsku – zemi, která v současnosti nemá žádnou národní strategii v oblasti umělé inteligence – objevil návrh zákona, který takové snímky nezakazuje, ale pouze požaduje jejich označování. Podle iniciátorů je třeba „informovat veřejnost o falešném obsahu“. Návrh zákona nebyl dosud ani přijat, ani zamítnut.

Vláda v Bukurešti zatím nemá strategii pro umělou inteligenci.

Ministerstvo digitalizace nedávno představilo aktualizovanou verzi návrhu strategie pro umělou inteligenci na rok 2019. Na důkaz toho, že svou práci myslí vážně, připravil vedoucí oddělení digitalizace také rozhodnutí, kterým bude strategie přijata vládou. Přijetí bylo původně plánováno na rok 2020 a od té doby až do současnosti byl zřízen výbor pro umělou inteligenci, který shromažďuje „iniciativy v této oblasti“, probíhaly konzultace s podniky a výzkumnými subjekty, vznikla dokonce společná pracovní skupina ministerstva s univerzitou (Technická univerzita v Kluži, městě, které se stalo hlavním pólem rozvoje IT v Rumunsku) a konečně ministerstvo pro výzkum vypracovalo „strategický rámec“. Po několika změnách v portfoliu posledních vlád v Bukurešti převzal projekt v loňském roce mladý ministr pro digitalizaci Bogdan Ivan.

Na začátku letošního roku při představení strategie ujistil, že dokument obsahuje návrhy rumunského výboru pro umělou inteligenci, který zase zohlednil výsledky konzultací s odborníky. Cílem této strategie je stručně řečeno „chránit práva Rumunů v online prostředí“. Rumunský ministr zároveň zdůraznil, že strategie je inspirována „konkrétními opatřeními“ navrženými na úrovni EU, ale je „pevně zakotvena ve specifické realitě a potřebách rumunského kontextu“.

Vysvětlení tohoto zakotvení v „rumunských potřebách “ spočívá v tom, že rumunská strategie v oblasti umělé inteligence byla vypracována na základě … Evropské prostředky získané na realizaci projektu „Strategický rámec pro zavádění a využívání inovativních technologií ve veřejné správě 2021 -2027“, financovaného z Operačního programu EU pro administrativní kapacitu 2014-2020.

„Pozoruhodné“ výsledky Rumunska v oblasti „úspěchů“ v oblasti připravenosti na zavádění technologií umělé inteligence ve státní správě jsou zaznamenány v indexu Oxford Insights, v němž Rumunsko zaujímá 64. místo na světě a poslední místo ve východní Evropě. Podle žebříčku sestaveného britskou společností, která radí vládám a firmám v oblasti AI, je tento region v tomto ohledu daleko za západní Evropou. Ve zprávě, která se zabývá 193 zeměmi, se v první desítce umístily tři členské státy EU v západní Evropě v čele s USA – Francie (6. místo), Německo (8. místo) a Nizozemsko (10. místo).

Španělská lekce o tom, jak může jeden členský stát konkrétně pomoci při provádění právních předpisů EU

Jednou ze zemí, které se daří mnohem lépe než ostatním členům bloku EU, je, jak již bylo zmíněno výše, Španělsko. Přestože se v tomto žebříčku umístilo o 17 míst za posledním místem v první desítce, na 27. místě, je Španělsko první zemí EU, která již zřídila agenturu, jež se podílí na tvorbě právních předpisů v oblasti umělé inteligence. Společnost již má svou pobočku v A Coruně, finančním a průmyslovém centru Galicie. Podle madridské vlády má také počáteční rozpočet 5 milionů eur a 23 zaměstnanců, přičemž v letošním roce se plánuje přidat další.

AESIA bude klíčovým hráčem při řízení a vedení španělského ekosystému umělé inteligence a do doby, než vstoupí v platnost evropská legislativa, bude vykonávat dobrovolný dohled nad touto oblastí tím, že bude spolupracovat s evropským ekosystémem a vytvářet pravidelná testovací prostředí pro vysoce rizikové systémy umělé inteligence. AESIA proto již zahájila práci na pískovišti určeném pro španělské společnosti. Sandboxy jsou testovací prostředí, která mají ukázat, jak může něco – například technologie – fungovat před spuštěním. Jsou však užitečné i pro legislativu. A právě to bude AESIA dělat, poskytovat závěry praktických cvičení, které usnadní případné změny právních předpisů před jejich zavedením.