"Teknikdrivet Armageddon"

De två största valen under supervalåret 2024, Indien och EU, är nu genomförda. Ungefär 800 miljoner väljare har röstat. Varningarna om att vi skulle översköljas av AI-desinformation har duggat tätt och effekten skulle bli mycket allvarlig, sas det.

"Vi är på väg mot ett teknikdrivet Armageddon," hävdade Nobelpristagaren Maria Ressa. 1500 experter från akademi, näringsliv, myndigheter, det internationella samfundet och civilsamhället rankade AI-genererad desinformation som det näst största globala hotet i år. (Krig kom på femte plats.)

Har du märkt mycket av det? Har all denna AI-desinformation skakat om valrörelserna och utfallet i dem?

Det mesta kända exemplet på en fejkad AI-bild är påven i en lustig jacka:

Någon har tydligen också gjort en bild på påven i en lustig hatt:

Men det där har såklart inget med några val att göra. Exempel på AI-genererad desinformation i valen har såklart förekommit, men tycks ha fått liten spridning och ännu mindre effekt. I Indien skapades exempelvis deep fakes av två Bollywoodstjärnor som förde ut valpropaganda. Det avslöjades snabbt och polisanmäldes. En bild gjordes av holländske EU-kandidaten, Frans Timmermans, ombord på ett privatjet, när han i verkliga fallet flög vanligt flyg. Det upptäcktes och debunkades.

Det finns fler exempel, men någon våg av desinformation syns inte till. Vi får emellertid invänta större genomgångar för att vara säkra.

Hur gick det i världens mest utsatta land?

För en utvärdering kan vi titta på ett val som hölls i början av året i ett land som är i en mycket utsatt position, Taiwan. Kina har stort intresse av att påverka valet, bland annat med desinformation. Taiwan är möjligen det land i världen som är mest utsatt för informationskrigföring. Där finns det nu rapporter om vad som hände i valet.

De kommer fram till att ja, det pågår koordinerade desinformationsinsatser mot Taiwan, främst från Kina. Ju närmare valet kom, desto större spridning fick innehåll från trollkonton. En del av detta var AI-genererat, men utgör en låg procent av all information relaterat till valet (1,6 procent av sociala medier-innehåll kom från trollkonton, och oklart hur mycket som var AI-genererat.)

Den mest omfattande rapporten slår fast att desinformationen inte påverkade valdebatten eller valresultatet.

Taiwans minister för digital affairs, Audrey Tang, kommer till samma slutsats. Trots att denna informationskrigföring pågått mycket aktivt under minst ett årtionde så var polariseringen efter valet rekordlågt:

"Jag är verkligen glad att kunna rapportera att vårt val i januari var anmärkningsvärt fritt från polarisering. Faktum är att den effektiva polariseringen, hur människor ser på varandra över partigränser, sjönk till en historisk låg nivå efter valet," sa hon i en intervju vid Copenhagen Democracy Summit.

Ett verkligt problem, men storleken är överdriven

AI-genererad desinformation är ett verkligt problem. AI gör det enklare att skapa trovärdiga bilder, videos och ljud. Självklart kommer det användas allt mer i desinformation. Men det gör det per automatik inte till ett stort problem och definitivt inte till ett "teknikdrivet Armageddon" eller det näst största globala hotet.

För det spelar ju ingen roll om det produceras massa desinformation om denna inte når fram och faktiskt påverkar. En ny studie, som vi skrev om igår, visar just det:

• Desinformationen når väldigt få och de som redan är extrema.
• Det är inte sociala mediers algoritmer som föder folk med propaganda, utan framförallt söker personer själva aktivt upp den.

När desinformationen faktiskt når fram, ska den dessutom påverka. Den som ser den ska tro på den, bidra till att denne ändrar eller förstärker en åsikt och till sist påverka hur personen röstar eller agerar på annat sätt. Det är mycket svårt, även med AI. Jag har utvecklat den tankegången tidigare.

🙄 Nej, AI-desinformation är inte största globala hotet - om hur svårt det är att få fram ett budskap

AI-genererad desinformation är största globala hotet, menar 1500 experter. Det är nonsens.

Warp NewsMathias Sundin

Det innebär ju inte att vi kan luta oss tillbaka och rulla tummarna. Tvärtom ska vi verkligen se till att ha effektiva motmedel. Taiwan jobbar aktivt med det och resultatet talar för sig själv.

Mathias Sundin
Arge optimisten