Предотвратяване на разпространението на дезинформация, генерирана от изкуствен интелект

Изминаха повече от 60 години от момента, в който за първи път бе предложено и проучено понятието „изкуствен интелект“, до момента, в който човечеството достигна сегашните му възможности. През последното десетилетие областта на изкуствения интелект (ИИ) напредна значително, но никога по-бързо, отколкото през последните две години, когато редица фактори се събраха по почти идеален начин и предоставиха на човечеството впечатляващи програми като ChatGPT.

Европейската комисия изисква от онлайн платформите да идентифицират ясно съдържанието – изображения (снимки и видеоклипове), звуци, текстове – генерирано от изкуствен интелект (ИИ). Заместник-председателят на Европейската комисия, отговарящ за ценностите и прозрачността, Вера Йоурова отправи този призив към подписалите кодекса на ЕС за най-добри практики срещу дезинформацията, с които се срещна наскоро в Брюксел. Това е нова мярка в стратегията на Комисията за предотвратяване на разпространението на дезинформация, особено онлайн дезинформация, за да се гарантира защитата на европейските ценности и демократични системи.

Изпълнителната власт на ЕС иска да приложи тази мярка незабавно, въпреки че най-големите платформи с над 45 милиона активни потребители в ЕС ще бъдат обект на задълженията на новия Закон за цифровите услуги (DSA) едва от ²⁵ август. Регламентът изисква „използването на видима маркировка“, за да се гарантира, че „генерираното или манипулирано аудио- или видеосъдържание е разпознаваемо“.

Кодексът на практиките не е правно обвързващ

Подписаният през 2022 г. Кодекс на практиките срещу дезинформацията, който не е правно обвързващ, обединява около 40 организации, сред които Facebook, Google, YouTube и TikTok. Интересно е, че Twitter наскоро напусна групата.

„Подписалите страни, които интегрират генеративен изкуствен интелект в своите услуги, като Bing Chat за Microsoft и Bard за Google, трябва да интегрират необходимите предпазни мерки, така че тези услуги да не могат да бъдат използвани от злонамерени участници, които генерират дезинформация“, каза Вера Йоурова.

От друга страна, подписалите страни, които разполагат със служби, които могат да разпространяват дезинформация, генерирана от изкуствен интелект, трябва да въведат технология за разпознаване на това съдържание и ясно да го посочват на потребителите, добави служителят на ЕС.

Регламентът за изкуствения интелект забранява „умишленото“ манипулиране

Понастоящем Европейският съюз преговаря по специално законодателство за изкуствения интелект, което ще предвиди задължения за прозрачност за създателите на редакционно съдържание на ChatGPT. След месеци на интензивни дискусии в края на април евродепутатите постигнаха временно политическо споразумение по първия в света регламент за изкуствения интелект. Законът за изкуствения интелект (AI) е законодателно предложение за регулиране на изкуствения интелект въз основа на потенциала му да причинява вреди и да влияе върху намеренията за гласуване на потребителите на социалните медии. Очаква се текстът, който вероятно ще претърпи промени, да бъде подложен на гласуване в Европейския парламент. Нейните принципи включват човешка организация и надзор, техническа надеждност и сигурност, неприкосновеност на личния живот и управление на данните, прозрачност, социално и екологично благосъстояние, многообразие, недискриминация и справедливост.

Една от най-противоречивите теми на дискусиите по време на преговорите беше свързана със системите за изкуствен интелект, които нямат конкретна цел. Резултатът, макар и предварителен, беше налагането на по-строги задължения на подкатегория на изкуствения интелект с общо предназначение, която включва модели като GhatGPT. Той също така установи, че генеративните модели на изкуствен интелект следва да се проектират и разработват в съответствие със законите на ЕС и основните права, включително свободата на изразяване.

Друга чувствителна от политическа гледна точка тема беше видът на приложенията за изкуствен интелект, които трябва да бъдат забранени, тъй като се смята, че представляват неприемлив риск. Това доведе до предложение за забрана на инструментите на изкуствения интелект за общо наблюдение на междуличностната комуникация, но това предложение беше изоставено. От друга страна, беше удължен срокът на действие на забраната за използване на софтуер за биометрична идентификация. Първоначално тази забрана се прилагаше само в реално време, като този софтуер за разпознаване можеше да се използва само ex-post за тежки престъпления и с предварително съдебно одобрение.

Регламентът за ИИ също така забранява „умишленото“ манипулиране. Думата „умишлено“ беше предмет на дебат, тъй като противниците на тази формулировка твърдяха, че умисълът може да бъде трудно доказуем, но в крайна сметка тя беше потвърдена. В същото време беше постигната формулата, според която използването на софтуер с изкуствен интелект за разпознаване на емоции е забранено в областта на правоприлагането, управлението на границите, заетостта и образованието.

Забраната на евродепутатите за прогнозна полицейска дейност беше разширена от наказателни към административни нарушения въз основа на скандала с детските надбавки в Нидерландия, който доведе до погрешно преследване на хиляди семейства за измама поради погрешен алгоритъм, използван от изкуствения интелект.

И накрая, но не на последно място, високорисковите модели на ИИ бяха класифицирани в приложение. Това означава, че високорисков модел ще се счита за такъв, който представлява значителен риск за здравето, безопасността или основните права. По подобен начин ИИ, използван за управление на критична инфраструктура, като например енергийни мрежи или системи за управление на водите, също ще бъде класифициран като високорисков, ако е свързан със сериозен риск за околната среда.

Членовете на ЕП включиха и допълнителни мерки за процеса, чрез който доставчиците на високорискови модели на изкуствен интелект могат да обработват чувствителни данни, като например сексуална ориентация или религиозни убеждения, за да откриват негативни предразположения. По-специално, за да се позволи обработката на този конкретен вид данни, пристрастията не трябва да могат да бъдат открити чрез синтетична, анонимизирана, псевдонимизирана или криптирана обработка на данни. Освен това оценката трябва да се извършва в контролирана среда. Чувствителните данни не могат да се предават на други страни и трябва да бъдат изтрити след оценката на пристрастията. Доставчиците трябва също така да документират причините за обработването на данните. Изкуственият интелект (ИИ) се счита за „технология, определяща бъдещето“.

Какво точно е ИИ и как той вече влияе на живота ни? Определение за изкуствен интелект

Изкуственият интелект се разглежда като основен елемент на цифровата трансформация на обществото и се превърна в приоритет за Европейския съюз, както е отразено в официалните му документи. Очаква се бъдещите приложения да доведат до огромни промени в обществото, но ИИ вече присъства в ежедневието ни. ИИ е способността на машината да имитира човешки функции, като например разсъждение, учене, планиране и творчество. ИИ позволява на техническите системи да възприемат средата, в която работят, да обработват това възприятие и да решават проблеми, като действат за постигане на определена цел. Компютърът получава данни (вече подготвени или събрани чрез собствени сензори, например камера), обработва ги и реагира.

Системите с изкуствен интелект могат да адаптират поведението си до известна степен, като анализират последиците от предишни действия и работят самостоятелно. Някои технологии за изкуствен интелект съществуват от повече от 50 години, но увеличената изчислителна мощ, наличието на огромни количества данни и новите алгоритми доведоха до значителен напредък в областта на изкуствения интелект през последните години.

Как се използват дълбоките фалшиви или пропагандни технологии?

Съвременните медии са засегнати от големите проблеми, създадени от изкуствения интелект, който „всява хаос в медийния свят“. Проучване на организацията „Репортери без граници“ (RSF) анализира състоянието на журналистиката в 180 държави, като отчита политическите, социалните и технологичните промени.

Констатациите са обезпокоителни. Забележителното развитие на изкуствения интелект създава още повече проблеми за медиите. В доклада се казва, че индустрията за дезинформация разпространява манипулативно съдържание в голям мащаб, както показа разследване на консорциума „Забранени истории“, и че изкуственият интелект не взема предвид изискванията за качествена журналистика.

Програма с изкуствен интелект (петата версия на Midjourney), която генерира изображения с много висока разделителна способност в отговор на вербални подкани, захранва социалните медии с все по-правдоподобни и неоткриваеми фалшиви „снимки“. Много от тези публикации стават вирусни. Журналистиката в обществен интерес е изправена пред голяма конкуренция от страна на подвеждащи разкази и фалшиви новини, насърчавани от някои медии и политици, и от софтуер за изкуствен интелект, особено в контекста на пандемията Covid-19 и, наскоро, на войната в Украйна. За съжаление има достатъчно хора, които са склонни да се доверяват на невярна информация, която понякога се слива с руската пропаганда и подхранва недоверието в медиите.