Subscribe
Evropská unie nedávno podnikla významné kroky a přijala právní předpisy týkající se umělé inteligence, kterou považuje za jednu z nejzávažnějších výzev naší doby.
Umělá inteligence má potenciál způsobit revoluci v našem způsobu života a nabídnout nebývalé výhody, které mohou výrazně zlepšit lidské činnosti v různých oblastech, a to jak v profesním, tak v soukromém životě.
Automatizace úkolů, rozvoj zdravotní péče a optimalizace průmyslu jsou jen některé příklady toho, jak může umělá inteligence pozitivně přispět společnosti.
Stejně obrovská jsou však i rizika spojená s touto technologií a nelze podceňovat potenciál jejího zneužití.
Síla umělé inteligence, zejména její schopnost replikovat obličeje a hlasy s alarmující přesností, vytváří prostředí, kde se nebezpečně stírají hranice mezi realitou a výmyslem.
Vytváření deepfake videí a sofistikovaných dezinformačních kampaní mohou osoby se zlými úmysly využít jako mocné nástroje, které vedou k všeobecnému zmatení, nedůvěře a erozi demokratických hodnot.
Nejedná se pouze o hypotetický scénář; již jsme byli svědky případů, kdy byly tyto technologie použity k podkopání důvěry veřejnosti v instituce, manipulaci voleb a podněcování sociálních nepokojů.
Hrozba přesahuje individuální škody, protože tyto nástroje mohou autoritářské režimy využít k vytvoření sofistikované propagandy, destabilizaci celých regionů a zpochybnění samotných základů západního demokratického řádu.
V tomto stále složitějším a hmatatelnějším kontextu by umělou inteligenci mohli využít jako zbraň ti, kdo se snaží zdiskreditovat západní politiku a hodnoty.
Schopnost rychle šířit falešné narativy by mohla zhoršit stávající napětí a ztížit společnostem rozlišování pravdy od fikce.
Všudypřítomný vliv umělé inteligence v každodenním životě navíc vyvolává vážné etické obavy ohledně zachování lidské důstojnosti a ochrany základních práv.
S tím, jak se systémy UI stále více integrují do naší sociální a politické struktury, existuje reálné riziko, že by vnitřní hodnota člověka – naše individualita, kreativita a schopnost empatie – mohla být zastíněna přílišným spoléháním se na technologie.
Přílišné spoléhání na umělou inteligenci by mohlo vést k hluboké dehumanizaci společnosti, kdy budou lidé redukováni na pouhé datové body v rozsáhlém, neosobním systému.
Hrozí, že bohatství lidských zkušeností, které se vyznačuje rozmanitostí a osobní identitou, bude nahrazeno homogenizovaným, robotickým světem, kde bude individualita obětována ve prospěch efektivity a kontroly.
Takový scénář by nejen snížil společenskou a politickou povahu lidských bytostí, ale mohl by také vést ke společnosti, v níž by se zásadně změnil koncept osobnosti, čímž bychom se zbavili prvků, které nás činí jedinečnými lidmi.
Právní předpisy Evropské unie týkající se umělé inteligence proto představují zásadní snahu o vyvážení potenciálních přínosů této technologie s potřebou chránit se před jejími četnými nebezpečími.
Uznává, že umělá inteligence sice může být hnací silou pokroku, ale musí být pečlivě regulována, aby sloužila lidskosti, a nikoli ji podkopávala.
Nyní je výzvou tyto předpisy účinně zavést a vytvořit rámec, který podpoří inovace a zároveň ochrání základní hodnoty, které definují naši společnost. Není náhodou, že mnoho hlav států a vlád okamžitě přešlo nikoliv k úplnému odmítnutí umělé inteligence, ale k její úplné regulaci, která by kolem neustálého vývoje technologií vytvořila rámec, soubor práv a povinností, který by omezil fungování digitálních systémů, aby bylo respektováno nepopiratelné omezení důstojnosti osoby.
Na posledním summitu G7, který se konal v jižní Itálii, v Apulii, ve dnech 13. až 15. června, bylo jedním z nejžhavějších témat summitu, a to z důrazného popudu pověřené předsedkyně Giorgie Meloniové, právě téma umělé inteligence.
Na toto téma promluvil i papež František: bylo to poprvé, co se k pracovním stolům velké sedmičky připojil papež.
„Umělá inteligence“, řekl Svatý otec, „je fascinujícím a obrovským nástrojem“, přičemž zdůraznil dvě strany téže mince, které umělá inteligence odhaluje v závislosti na tom, jak je využívána.
Na závěr setkání bylo dosaženo historického výsledku: cílem Velké sedmičky je skutečně „prohloubit naši spolupráci, abychom využili přínosů a, jak čteme v závěrečném komuniké summitu, zvládli rizika umělé inteligence“.
Zahájíme akční plán pro využívání umělé inteligence ve světě práce a vypracujeme značku na podporu provádění Mezinárodního kodexu chování pro organizace vyvíjející pokročilé systémy umělé inteligence“.
Evropské právní předpisy týkající se umělé inteligence přesně sledují směr dohodnutý na summitu G7: využívat přínosů v oblastech, kde ji lze využít, ale vyhnout se rizikům a pravděpodobné degeneraci vypracováním kodexu chování, který omezí dopad této technologie v rámci lidských práv a respektování důstojnosti každého občana.
Nová legislativa vstoupila v platnost 1. srpna 2024: technicky se nazývá Evropský zákon o umělé inteligenci (nebo také AI Act).
Zákon navrhla Evropská komise v dubnu 2021 a Evropský parlament a Evropská rada jej schválily v prosinci 2023.
Poskytne všem členským státům jednotný plán, podle kterého se budou řídit, založený na rozlišování různých typů rizik podle míry jejich nebezpečnosti.
Nejnižší riziko je to, které s sebou nenese žádné povinnosti vyplývající z právních předpisů: patří sem například filtry nevyžádané pošty a videohry, ačkoli v těchto případech mohou jednotlivé společnosti dobrovolně přijmout další kodexy chování.
Následuje riziko spojené s transparentností: v případě existence takového rizika budou muset chabooti informovat uživatele o tom, že komunikují se strojem, a obsah vytvořený umělou inteligencí bude muset obsahovat údaje o tom, že není lidský.
Vysoké riziko naopak představuje lékařský software založený na umělé inteligenci, který bude podléhat velmi přísným a přísným postupům, včetně informování uživatelů a lidského dohledu.
Mezi vysoce rizikové systémy patří technologie používané v: kritických infrastrukturách, jako je doprava; vzdělávání a školení, které ovlivňují rozvoj a vzdělání jednotlivců; práci, zaměstnávání a řízení pracovníků; základních veřejných a soukromých službách, jako je získávání úvěrů; bezpečnosti výrobků; prosazování zákonů, které mohou ovlivnit základní práva lidí; řízení bezpečnostní a imigrační politiky; správě soudnictví a demokratických procesů. Před uvedením systémů na trh jsou na digitální provozovatele kladeny velmi přísné povinnosti, jako jsou systémy pro zmírnění rizik, zaznamenávání činností pro zajištění sledovatelnosti výsledků, podrobná dokumentace poskytující všechny nezbytné informace o systému a jeho účelu, jasné a přiměřené informace pro distributora a vhodná opatření pro lidskou kontrolu s cílem minimalizovat rizika.
A konečně nepřijatelné riziko se týká systémů umělé inteligence, které umožňují „sociální bodování“ vládami a společnostmi, což poškozuje základní práva lidí.
Pokud první třída rizik není regulována, druhá třída je již obzvláště vlivná z hlediska šíření falešných zpráv: vytváření obsahu umělou inteligencí bez potřebného označení může vytvářet dezinformace ve velkém měřítku.
K posledním dvěma úrovním rizik, kde se údaje požadované od pacientů stávají osobnějšími a citlivějšími: zde se vysvětluje silná závaznost nařízení.
EU,“ uvádí se na internetových stránkách Evropské komise, „usiluje o to, aby se stala světovým lídrem v oblasti bezpečné umělé inteligence.
Vytvořením pevného právního rámce založeného na lidských právech a základních hodnotách může EU vytvořit ekosystém umělé inteligence, který bude přínosem pro všechny.
To znamená lepší zdravotní péči, bezpečnější a čistší dopravu a lepší veřejné služby pro občany.
Přinese inovativní produkty a služby, zejména v oblasti energetiky, bezpečnosti a zdravotní péče, a také vyšší produktivitu a efektivnější výrobu pro podniky, zatímco vlády mohou těžit z levnějších a udržitelnějších služeb, jako je doprava, energetika a nakládání s odpady.
Současně Evropská komise iniciovala také vytvoření Kodexu chování pro poskytovatele umělé inteligence (GPAI), který uloží další povinnosti těm, kdo umělou inteligenci využívají.
Kodex GPAI, který bude zahrnut do legislativy Evropského aktu o umělé inteligenci, se bude zabývat oblastmi, jako je transparentnost, autorská práva a řízení rizik.
Bude dokončen a vstoupí v platnost v příštím roce.