Subscribe
Европейският закон за изкуствения интелект, известен като Акт за изкуствения интелект, който е първият в света, наскоро беше приет от Европейския парламент с голямо мнозинство. Законът е резултат от повече от тригодишна загриженост на Брюксел за справяне с новите предизвикателства в тази област, които се появиха с бързи темпове през последното десетилетие. С безпрецедентното развитие на системите с изкуствен интелект, което носи и редица рискове, се появиха нежелани явления като дълбоките фалшификати. Текстът на закона е разработен така, че да защитава основните права на гражданите, демокрацията и върховенството на закона, но и да стимулира иновациите и научните изследвания, като целта е Европа да се превърне в лидер в тази област. С новото законодателство се въвеждат две равнища на управление на надзора на правоприлагането – национално и европейско, като за тази цел както държавите членки, така и ЕС създават нови органи. По принцип държавите членки ще разполагат с две години, за да приложат разпоредбите му след влизането му в сила, но някои от забраните в закона ще влязат в сила половин година след приемането му.
В Румъния законът срещу дълбоките фалшификати е в процес на парламентарно обсъждане
Въпреки че досега държавите-членки са предприели само плахи стъпки в тази област, има опити за национално регулиране в тази област, включително в Румъния, където проектозакон за борба с дълбоките фалшификации е внесен в парламента. Изключително противоречив, според някои по китайски модел – защото наказва дълбоките фалшификации със затвор – законопроектът затъна в парламентарни дебати. Но сега, след като Законът за изкуствения интелект е приет, текстът може да бъде подобрен или, както твърдят някои, да бъде изготвен нов, който да отговаря на изискванията на европейското право.
„ЕС спази обещанието си. Свързахме концепцията за изкуствения интелект с основните ценности, които са в основата на нашите общества. Въпреки това предстои още много работа, която надхвърля самия Акт за изкуствения интелект. ИИ ще ни подтикне да преосмислим социалния договор, който е в основата на нашите демокрации, образователните ни модели, пазарите на труда и начина, по който водим война. Законът за изкуствения интелект е отправна точка за нов модел на управление, основан на технологиите. Сега трябва да се съсредоточим върху прилагането на този закон на практика“, заяви Драгош Тудораче, съдокладчик на Комисията по граждански свободи в Европейския парламент.
Друг съдокладчик, Брандо Бенифей, също подчерта значението на създаването на новата Европейска служба за оценка на въздействието, която „ще помогне на дружествата да започнат да спазват правилата преди влизането им в сила“.
Понастоящем регламентът е в т.нар. процедура за поправка и се очаква да бъде приет през следващите месеци, до края на парламентарния мандат. След това е необходимо и официалното одобрение на Европейския съвет. Очаква се той да влезе в сила 20 дни след публикуването му в Официален вестник и ще се прилага изцяло в рамките на 24 месеца от тази дата, с изключение на забраните за забранени практики, които ще трябва да бъдат спазвани още след шест месеца. Освен това кодексите на практиките трябва да бъдат готови след 9 месеца, правилата с общо предназначение, включително управлението, ще трябва да се прилагат след 12 месеца, а задълженията за високорискови схеми – след 36 месеца.
Според официалното прессъобщение на Европейския парламент, публикувано след приемането на регламента, той налага задължения за изкуствения интелект в зависимост от потенциалните рискове и очакваното въздействие. По-конкретно, тя забранява някои приложения и налага задължения на други. Освен това се налагат големи глоби за неспазване на изискванията. С новите правила се забраняват някои приложения на изкуствения интелект, които застрашават правата на гражданите, включително системите за биометрична категоризация. Разпознаването на емоции на работното място и в училищата, социалното оценяване, прогнозната полицейска дейност (когато се основава единствено на профилиране на дадено лице или оценка на неговите характеристики), както и изкуственият интелект, който манипулира човешкото поведение или се възползва от уязвимостта на хората, също ще бъдат забранени.
Системите за изкуствен интелект с общо предназначение (ИИ с общо предназначение) и моделите на ИИ с общо предназначение, на които те се основават, трябва да отговарят на определени изисквания за прозрачност, включително спазване на законодателството на ЕС за авторското право и публикуване на подробни резюмета на съдържанието, използвано за обучение. Освен това изкуствените или манипулираните изображения, аудио- или видеосъдържание („дълбоки фалшификати“) трябва да бъдат ясно обозначени като такива.
В закона на ЕС за първи път се определят високорискови системи и се прилагат строги правила за тях. Тя започва с класифициране на системите с изкуствен интелект според риска и постепенно налага правила в зависимост от риска, като стига до пълна забрана на някои от тях. С други думи, колкото по-рисково е дадено приложение, толкова по-строги са правилата. По този начин системите за препоръчване на съдържание или филтрите за спам ще имат по-лесни правила за спазване и ще се считат за „ограничен риск“. По същество те ще трябва само да казват на потребителите, че са захранвани от AI. Други „високорискови“ системи, създадени от изкуствен интелект, ще бъдат подложени на по-строг контрол. По този начин се забраняват някои употреби на някои от тези „високорискови системи“, а именно тези, които се основават на биометрично разпознаване, основано на чувствителни характеристики, и нецеленасоченото събиране на изображения от интернет или записи от видеонаблюдение за създаване на бази данни за разпознаване на лица. Забранени са например социалната оценка, която регулира поведението на хората, разпознаването на емоции в училище или на работното място, както и някои видове прогнозна полиция. По изключение те се допускат за тежки престъпления като отвличане или тероризъм. В тези случаи ще бъде разрешено да се сканират лицата на хората на обществени места с помощта на системи за дистанционна биометрична идентификация. За други високорискови системи за ИИ, които имат значителен потенциал да навредят на здравето, безопасността, основните права, околната среда, демокрацията и правовата държава, са предвидени определени задължения.
Гражданите имат право да се оплакват от системите за изкуствен интелект
Примери за високорискови употреби на ИИ включват критична инфраструктура, образование и обучение, заетост, основни частни и обществени услуги (напр. здравеопазване, банково дело), някои системи в областта на правоприлагането, миграцията и управлението на границите, правосъдието и демократичните процеси (напр. влияние върху изборите). Такива системи трябва да оценяват и намаляват рисковете, да поддържат дневници за използването, да са прозрачни и точни и да осигуряват човешки надзор. Гражданите ще имат право да подават жалби относно системите за изкуствен интелект и да получават обяснения за решения, основани на високорискови системи за изкуствен интелект, които засягат техните права, се посочва в официалното съобщение на Европейския парламент за медиите. Пакетът от закони за изкуствения интелект предвижда надзор върху прилагането на тези правила, като в рамките на Европейската комисия ще бъде създадена служба. Предвидени са и глоби в размер на 7% от оборота за компаниите, които не спазват изискванията. Това европейско законодателство е голяма победа в борбата срещу опасностите от безотговорното използване на технологии, базирани на изкуствен интелект, и огромна стъпка напред в сравнение с подхода в чужбина. В САЩ безопасността в тази област се основава на съвместен ангажимент на големите компании в тази област – включително Google, Meta, Amazon, Microsoft и OpenIA – за прилагане на мерки за сигнализиране на съдържание, генерирано от изкуствен интелект.
Дълбоки фалшиви видеоклипове, използвани за онлайн измами
По-рано тази година румънският министър на енергетиката Себастиан Бурдуя обяви, че ще подаде наказателна жалба, след като лицето му беше използвано в дълбоко фалшив видеоклип. Управителят на Националната банка на Румъния Мугур Исареску също стана жертва на подобна онлайн манипулация. И в двата случая лицето на длъжностно лице е използвано за популяризиране на несъществуващи инвестиции. Веднага след това двама румънски евродепутати внесоха в парламента в Букурещ законодателна инициатива за борба с този феномен на дълбокия фалшификат, която предвижда затворнически присъди за лицата, признати за виновни за създаването на такива видеоклипове. Проектозаконът предизвика широка обществена дискусия, като някои неправителствени организации за защита на правата на човека твърдят, че подобна стъпка би нарушила свободата на изразяване. Други гласове подкрепиха законодателната инициатива, като призоваха за строги наказания в случаите, когато подобни видеоклипове имат сериозно емоционално или финансово въздействие. Целият дебат, освен че се стигна до доста хилавия начин, по който се роди проектозаконът, в общи линии показва необходимостта от регулиране в тази област, включително на национално равнище. След като формата, приета от Камарата на депутатите, се различаваше коренно от тази на Сената – последният налагаше само финансови санкции за извършителите на дълбоки фалшификации, докато депутатите стигнаха до затвор – проектът беше върнат за разглеждане от специализираните комисии. Според евродепутата Драгош Тудораче това би било добре, тъй като според него приемането на закона може да почака, а при изготвянето му Румъния трябва да следва примера на Закона за оценката на въздействието.
„Бих казал, че законът за дълбоките фалшификати в румънския парламент може би може да почака, защото всъщност чрез Закона за вътрешните работи ние също регулираме тази област на отговорност за дълбоките фалшификати. Така че по принцип веднъж не е вариант. Законът, както ще дойде от европейско ниво, ще бъде приложен в Румъния или ще трябва да бъде приложен. Колко трудно ще бъде това, повтарям, зависи от капацитета, който румънската държава ще има, за да привлече подходящите хора за ролята, призната от закона за тези органи (…)“, каза Драгош Тудораче.
В отворено писмо на Active Watch, подкрепено от девет други организации за защита на правата на човека, се посочва, че текстът съдържа двусмислици и термини или изрази, които показват повърхностно разбиране на явлението. Това мнение беше споделено и от Законодателния съвет и аудиовизуалния регулатор CAN.
„Няма изключения за защита на формите на свобода на изразяване, като например използването на дълбоко фалшиво съдържание за памфлетистки или артистични цели или в търговски продукции (реклами) или във филмовата индустрия, както вече се случва на практика и както е предвидено в предстоящото европейско законодателство“, обвинява Active Watch.