Förhindra spridning av felaktig information som genererats av artificiell intelligens

Det har gått mer än 60 år från det att begreppet artificiell intelligens först föreslogs och studerades till dess att mänskligheten har nått sin nuvarande kapacitet. Under det senaste decenniet har artificiell intelligens (AI) utvecklats avsevärt, men aldrig snabbare än under de senaste två åren när ett antal faktorer har samverkat på ett nästan idealiskt sätt och försett mänskligheten med spektakulära program som ChatGPT.

EU-kommissionen kräver att onlineplattformar tydligt identifierar innehåll – bilder (foton och videor), ljud, texter – som genererats med artificiell intelligens (AI). EU-kommissionens vice ordförande för värderingar och öppenhet Vera Jourova riktade uppmaningen till undertecknarna av EU:s kod för bästa praxis mot desinformation, som hon nyligen träffade i Bryssel. Det är en ny åtgärd i kommissionens strategi för att förhindra spridningen av felaktig information, särskilt på nätet, för att säkerställa skyddet av europeiska värderingar och demokratiska system.

EU:s verkställande organ vill genomföra denna åtgärd omedelbart, även om de största plattformarna, med över 45 miljoner aktiva användare i EU, kommer att omfattas av skyldigheterna i den nya lagen om digitala tjänster (DSA) först från och med den ²⁵ augusti. Förordningen kräver ”användning av synlig märkning” för att säkerställa att ”genererat eller manipulerat ljud- eller videoinnehåll är igenkännbart”.

Uppförandekoden är inte rättsligt bindande

Code of Practice against Disinformation, som undertecknades 2022 och som inte är rättsligt bindande, samlar omkring 40 organisationer, däribland Facebook, Google, YouTube och TikTok. Intressant nog lämnade Twitter nyligen gruppen.

Signatärerna som integrerar generativ artificiell intelligens i sina tjänster, såsom Bing Chat för Microsoft och Bard för Google, bör integrera nödvändiga skyddsåtgärder så att dessa tjänster inte kan användas av skadliga aktörer som genererar felaktig information, säger Vera Jourova.

Å andra sidan bör signatärer som har tjänster som sannolikt kommer att sprida desinformation som genererats av artificiell intelligens införa teknik för att känna igen detta innehåll och tydligt ange det för användarna, tillade EU-tjänstemannen.

AI-förordningen förbjuder ”avsiktlig” manipulation

Europeiska unionen förhandlar för närvarande om specifik lagstiftning om artificiell intelligens som skulle föreskriva transparensskyldigheter för generatorer av ChatGPT-redaktionellt innehåll. Efter månader av intensiva diskussioner nådde ledamöterna i slutet av april en preliminär politisk överenskommelse om världens första förordning om artificiell intelligens. Artificial Intelligence (AI) Act är ett lagförslag om att reglera artificiell intelligens baserat på dess potential att orsaka skada och påverka sociala medieanvändares röstningsintentioner. Texten, som sannolikt kommer att genomgå ändringar, förväntas bli föremål för omröstning i Europaparlamentet. Principerna omfattar mänskligt inflytande och tillsyn, teknisk robusthet och säkerhet, integritet och datastyrning, öppenhet, social och miljömässig välfärd, mångfald, icke-diskriminering och rättvisa.

Ett av de mest kontroversiella diskussionsämnena i förhandlingarna gällde de AI-system som inte har något specifikt syfte. Resultatet – ett preliminärt sådant – var att införa strängare skyldigheter för en underkategori av AI för allmänna ändamål, som omfattar modeller som GhatGPT. Det fastställdes också att generativa AI-modeller ska utformas och utvecklas i enlighet med EU-lagstiftningen och de grundläggande rättigheterna, inklusive yttrandefriheten.

En annan politiskt känslig fråga var vilken typ av AI-tillämpningar som bör förbjudas eftersom de anses utgöra en oacceptabel risk. Detta ledde till ett förslag om att förbjuda AI-verktyg för allmän övervakning av interpersonell kommunikation, men detta förslag övergavs. Å andra sidan infördes en förlängning av förbudet mot programvara för biometrisk identifiering. Ursprungligen gällde detta förbud endast i realtid, denna igenkänningsprogramvara kunde endast användas i efterhand för allvarliga brott och med godkännande före rättegång.

AI-förordningen förbjuder också ”avsiktlig” manipulation. Ordet ”avsiktlig” var föremål för debatt, eftersom motståndarna till denna formulering hävdade att avsiktlighet kunde vara svårt att bevisa, men det bekräftades i slutändan. Samtidigt nåddes en formulering som innebär att användningen av AI-programvara för igenkänning av känslor är förbjuden inom områdena brottsbekämpning, gränsförvaltning, sysselsättning och utbildning.

Ledamöternas förbud mot prediktiv polis har utvidgats från brott till administrativa överträdelser, baserat på den nederländska barnbidragsskandalen som ledde till att tusentals familjer felaktigt åtalades för bedrägeri på grund av en bristfällig algoritm som användes av artificiell intelligens.

Sist men inte minst klassificerades AI-modeller med hög risk i en bilaga. Det innebär att en högriskmodell kommer att betraktas som en modell som utgör en betydande risk för hälsa, säkerhet eller grundläggande rättigheter. På samma sätt kommer AI som används för att hantera kritisk infrastruktur, såsom energinät eller vattenhanteringssystem, också att klassificeras som hög risk om det innebär en allvarlig miljörisk.

Ledamöterna inkluderade också ytterligare åtgärder för den process genom vilken leverantörer av AI-modeller med hög risk kan behandla känsliga uppgifter, såsom sexuell läggning eller religiösa övertygelser, för att upptäcka negativa predispositioner. För att tillåta behandling av denna särskilda typ av uppgifter får fördomar i synnerhet inte kunna upptäckas genom syntetisk, anonymiserad, pseudonymiserad eller krypterad databehandling. Dessutom måste bedömningen ske i en kontrollerad miljö. Känsliga uppgifter får inte överföras till andra parter och måste raderas efter biasbedömningen. Leverantörerna måste också dokumentera varför databehandling har ägt rum. Artificiell intelligens (AI) anses vara en ”framtidsdefinierande teknik”.

Vad exakt är AI och hur påverkar det redan våra liv? Definition av artificiell intelligens

Artificiell intelligens ses som central för den digitala omvandlingen av samhället och har blivit en prioritering för Europeiska unionen, vilket återspeglas i dess officiella dokument. Framtida tillämpningar förväntas medföra enorma förändringar i samhället, men AI är redan närvarande i vår vardag. AI är en maskins förmåga att efterlikna mänskliga funktioner som t.ex. resonemang, inlärning, planering och kreativitet. AI gör det möjligt för tekniska system att uppfatta den miljö de verkar i, bearbeta denna uppfattning och lösa problem genom att agera för att uppnå ett visst mål. Datorn tar emot data (antingen redan förberedda eller insamlade via egna sensorer, t.ex. en kamera), bearbetar dem och reagerar sedan.

AI-system kan i viss utsträckning anpassa sitt beteende, analysera effekterna av tidigare åtgärder och arbeta självständigt. Vissa AI-tekniker har funnits i mer än 50 år, men ökad datorkraft, tillgång till enorma datamängder och nya algoritmer har lett till stora framsteg inom AI under de senaste åren.

Hur används deep fake- eller propagandateknik?

Dagens medier drabbas av de stora problem som skapats av artificiell intelligens som ”skapar kaos i medievärlden”. I en studie från Reportrar utan gränser (RSF) analyserades läget för journalistiken i 180 länder, med hänsyn tagen till politiska, sociala och tekniska förändringar.

Resultaten är oroande. Den anmärkningsvärda utvecklingen av artificiell intelligens skapar ännu fler problem för medierna. I betänkandet sägs att desinformationsindustrin sprider manipulativt innehåll i stor skala, vilket en undersökning av konsortiet Forbidden Stories har visat, och att artificiell intelligens inte tar hänsyn till kraven på kvalitetsjournalistik.

Ett artificiellt intelligensprogram (den femte versionen av Midjourney) som genererar mycket högupplösta bilder som svar på verbala uppmaningar har försett sociala medier med alltmer trovärdiga och oupptäckbara falska ”foton”. Många av dessa inlägg blir virala. Journalistiken i allmänhetens intresse har fått stor konkurrens av vilseledande berättelser och falska nyheter som främjas av vissa medier och politiker och programvara för artificiell intelligens, särskilt i samband med covid-19-pandemin och, på senare tid, kriget i Ukraina. Tyvärr finns det tillräckligt många människor som tenderar att lita på falsk information, som ibland sammanfaller med rysk propaganda och underblåser misstro mot medierna.