Subscribe
Od doby, kdy byl poprvé navržen a studován pojem umělé inteligence, do doby, kdy lidstvo dosáhlo jejích současných schopností, uplynulo více než 60 let. V posledním desetiletí se obor umělé inteligence (AI) značně posunul, ale nikdy ne tak rychle jako v posledních dvou letech, kdy se řada faktorů spojila téměř ideálním způsobem a poskytla lidstvu velkolepé programy, jako je ChatGPT.
Evropská komise požaduje, aby online platformy jasně identifikovaly obsah – obrázky (fotografie a videa), zvuky a texty – vytvořený umělou inteligencí. Místopředsedkyně Evropské komise pro hodnoty a transparentnost Vera Jourová se s touto výzvou obrátila na signatáře kodexu osvědčených postupů EU proti dezinformacím, s nimiž se nedávno setkala v Bruselu. Jedná se o nové opatření v rámci strategie Komise, jejímž cílem je zabránit šíření dezinformací, zejména dezinformací online, a zajistit tak ochranu evropských hodnot a demokratických systémů.
Výkonná moc EU chce toto opatření zavést okamžitě, ačkoli největší platformy s více než 45 miliony aktivních uživatelů v EU budou podléhat povinnostem nového zákona o digitálních službách (DSA) až od 25. srpna. Nařízení vyžaduje „použití viditelného označení“, aby bylo zajištěno, že „vytvořený nebo zmanipulovaný zvukový nebo obrazový obsah je rozpoznatelný“.
Kodex není právně závazný
Kodex proti dezinformacím, který byl podepsán v roce 2022 a který není právně závazný, sdružuje přibližně 40 organizací včetně společností Facebook, Google, YouTube a TikTok. Zajímavé je, že Twitter nedávno skupinu opustil.
„Signatáři, kteří integrují generativní umělou inteligenci do svých služeb, jako je Bing Chat společnosti Microsoft a Bard společnosti Google, by měli zavést nezbytná ochranná opatření, aby tyto služby nemohly být využívány škodlivými subjekty, které generují dezinformace,“ uvedla Věra Jourová.
Na druhou stranu by signatáři, kteří mají služby, jež mohou šířit dezinformace vytvořené umělou inteligencí, měli zavést technologii, která tento obsah rozpozná a jasně na něj uživatele upozorní, dodal úředník EU.
Nařízení o UI zakazuje „úmyslnou“ manipulaci
Evropská unie v současné době jedná o zvláštních právních předpisech týkajících se umělé inteligence, které by stanovily povinnosti transparentnosti pro tvůrce redakčního obsahu ChatGPT. Po měsících intenzivních diskusí dosáhli poslanci Evropského parlamentu na konci dubna předběžné politické dohody o prvním nařízení o umělé inteligenci na světě. Zákon o umělé inteligenci je legislativní návrh na regulaci umělé inteligence na základě jejího potenciálu způsobovat škody a ovlivňovat volební záměry uživatelů sociálních médií. Očekává se, že o textu, který pravděpodobně dozná změn, bude hlasovat Evropský parlament. Mezi její zásady patří lidský faktor a dohled, technická robustnost a bezpečnost, ochrana soukromí a správa dat, transparentnost, sociální a environmentální blaho, rozmanitost, nediskriminace a spravedlnost.
Jedním z nejkontroverznějších témat jednání byly systémy umělé inteligence, které nemají žádný konkrétní účel. Výsledkem bylo uložení přísnějších povinností pro podkategorii umělé inteligence pro všeobecné účely, do které patří modely jako GhatGPT. Rovněž stanovila, že generativní modely umělé inteligence by měly být navrhovány a vyvíjeny v souladu s právními předpisy EU a základními právy, včetně svobody projevu.
Dalším politicky citlivým tématem byl typ aplikací umělé inteligence, které by měly být zakázány, protože jsou považovány za nepřijatelné riziko. To vedlo k návrhu zakázat nástroje umělé inteligence pro obecné sledování mezilidské komunikace, ale od tohoto návrhu bylo upuštěno. Na druhou stranu bylo zavedeno prodloužení zákazu používání softwaru pro biometrickou identifikaci. Zpočátku platil tento zákaz pouze v reálném čase, tento rozpoznávací software bylo možné použít pouze ex post pro závažné trestné činy a s předchozím soudním schválením.
Nařízení o UI rovněž zakazuje „úmyslnou“ manipulaci. Slovo „úmyslný“ bylo předmětem diskuse, protože odpůrci této formulace tvrdili, že úmyslnost lze obtížně prokázat, ale nakonec bylo potvrzeno. Zároveň bylo dosaženo formulace, podle níž je zakázáno používat software umělé inteligence pro rozpoznávání emocí v oblasti vymáhání práva, správy hranic, zaměstnanosti a vzdělávání.
Zákaz prediktivní policie byl poslanci Evropského parlamentu rozšířen z trestných činů na správní delikty na základě nizozemského skandálu s přídavky na děti, který vedl k tomu, že tisíce rodin byly neprávem stíhány za podvody kvůli chybnému algoritmu používanému umělou inteligencí.
V neposlední řadě byly v příloze klasifikovány vysoce rizikové modely UI. To znamená, že za vysoce rizikový model bude považován model, který představuje významné riziko pro zdraví, bezpečnost nebo základní práva. Podobně bude UI používaná k řízení kritické infrastruktury, jako jsou energetické sítě nebo vodohospodářské systémy, rovněž klasifikována jako vysoce riziková, pokud zahrnuje vážné riziko pro životní prostředí.
Poslanci rovněž zahrnuli další opatření týkající se postupu, kterým mohou poskytovatelé vysoce rizikových modelů umělé inteligence zpracovávat citlivé údaje, jako je sexuální orientace nebo náboženské přesvědčení, za účelem odhalení negativních predispozic. Aby bylo možné zpracovávat tento konkrétní typ údajů, nesmí být zejména možné zjistit předpojatost prostřednictvím syntetického, anonymizovaného, pseudonymizovaného nebo šifrovaného zpracování údajů. Kromě toho musí hodnocení probíhat v kontrolovaném prostředí. Citlivé údaje nelze předávat dalším stranám a po posouzení podjatosti musí být vymazány. Poskytovatelé musí také zdokumentovat, proč ke zpracování údajů došlo. Umělá inteligence (AI) je považována za „technologii budoucnosti“.
Co přesně je umělá inteligence a jak již ovlivňuje naše životy? Definice umělé inteligence
Umělá inteligence je považována za klíčovou pro digitální transformaci společnosti a stala se prioritou Evropské unie, což se odráží v jejích oficiálních dokumentech. Očekává se, že budoucí aplikace přinesou do společnosti obrovské změny, ale umělá inteligence je již přítomna v našem každodenním životě. Umělá inteligence je schopnost stroje napodobovat lidské funkce, jako je uvažování, učení, plánování a kreativita. Umělá inteligence umožňuje technickým systémům vnímat prostředí, ve kterém pracují, zpracovávat toto vnímání a řešit problémy, a to tak, aby dosáhly určitého cíle. Počítač přijímá data (buď již připravená, nebo shromážděná pomocí vlastních senzorů, například kamery), zpracovává je a poté reaguje.
Systémy umělé inteligence jsou schopny do určité míry přizpůsobit své chování, analyzovat účinky předchozích akcí a pracovat samostatně. Některé technologie umělé inteligence existují již více než 50 let, ale díky zvýšenému výpočetnímu výkonu, dostupnosti obrovského množství dat a novým algoritmům došlo v posledních letech k významnému pokroku v oblasti umělé inteligence.
Jak se používá technologie deep fake nebo propaganda?
Dnešní média se potýkají s velkými problémy způsobenými umělou inteligencí, která „působí ve světě médií chaos“. Studie organizace Reportéři bez hranic (RSF) analyzovala stav žurnalistiky ve 180 zemích s přihlédnutím k politickým, sociálním a technologickým změnám.
Zjištění jsou znepokojivá. Pozoruhodný rozvoj umělé inteligence přináší médiím ještě více problémů. Zpráva uvádí, že dezinformační průmysl šíří manipulativní obsah ve velkém měřítku, jak ukázalo vyšetřování konsorcia Forbidden Stories, a že umělá inteligence nezohledňuje požadavky kvalitní žurnalistiky.
Program umělé inteligence (pátá verze Midjourney), který v reakci na slovní výzvy generuje obrázky ve velmi vysokém rozlišení, zásobuje sociální média stále věrohodnějšími a neodhalitelnými falešnými „fotografiemi“. Mnohé z těchto příspěvků se stávají virálními. Žurnalistika ve veřejném zájmu čelí velké konkurenci zavádějících narativů a falešných zpráv, které propagují některá média a politici, a softwaru umělé inteligence, zejména v souvislosti s pandemií Covid-19 a v nedávné době s válkou na Ukrajině. Bohužel existuje dost lidí, kteří mají tendenci věřit nepravdivým informacím, které se někdy sbíhají s ruskou propagandou a podněcují nedůvěru v média.