Du har hört varningarna. Generativ AI som ChatGPT, Midjourney och DALL-E kommer att "utlösa nästa desinformationsmardröm", folk "kommer inte att kunna veta vad som är sant längre" och vi står inför en "teknikdriven Armageddon."

Men så är inte fallet, säger forskare från University of Oxford, University of Zurich och PSL University.

De tre forskarna skriver att det redan finns mycket desinformation online, men den genomsnittliga internetanvändaren konsumerar väldigt lite av den. Konsumtionen av desinformation är koncentrerad till en liten grupp av mycket aktiva och uttalade personer. Desinformation får endast inflytande när folk ser den, och för det mesta gör de inte det.

Men skulle inte desinformation från generativ AI kunna vara av högre kvalitet och därför mer övertygande? De ger tre anledningar till varför detta troligtvis inte kommer att hända:

1. Det är redan relativt enkelt för producenter av desinformation att öka den upplevda tillförlitligheten i deras innehåll.
2. De flesta människor konsumerar innehåll från mainstream-källor, typiskt samma handfull populära mediekanaler, och är inte utsatta, eller endast mycket marginellt utsatta, för desinformation.
3. Generativ AI kan också hjälpa till att öka kvaliteten på tillförlitliga nyhetskällor - till exempel genom att underlätta arbetet för journalister inom vissa områden. 

Enligt en annan studie, med tanke på sällsyntheten av vilseledande innehåll jämfört med tillförlitligt innehåll, skulle ökningen av desinformationens attraktionskraft behöva vara 20 till 100 gånger större än ökningen av tillförlitligt innehålls attraktionskraft för att effekterna av generativ AI ska tippa vågskålen till förmån för desinformation.

De tre forskarna avslutar så här:

Vårt mål är inte att avgöra eller avsluta diskussionen om de möjliga effekterna av generativ AI på vår informationsmiljö. Vi önskar inte heller helt avfärda oro kring tekniken. Istället, i Robert Mertons anda att "vetenskapens mål är utvidgningen av certifierad kunskap" baserat på "organiserad skepticism", hoppas vi bidra till det förra genom att injicera lite av det senare i nuvarande debatter om de möjliga effekterna av generativ AI.