Ett avgörande fel

I Max Tegmarks bok om AI, Life 3.0, börjar han med en berättelse om ett företag vars vd vill utveckla en superintelligent AI. Målet är att ta över världen.

Delar av berättelsen är väldigt lik det som skett sedan boken kom ut 2017, men med en avgörande skillnad.

Fas 1 - tjäna pengar

I boken utser vd:n en grupp inom bolaget, The Omegas, att jobba med projektet och de utvecklar en AI. Den tränas på stora mängder data, som Wikipedia och Library of Congress, men är inte uppkopplad direkt på internet. För att ha råd att genomföra planen behövs pengar.

De funderar igenom flera alternativ, och landar till slut på att starta ett medieföretag:

"In the end, they had decided to launch a media company, starting with animated entertainment."

AI:n sätter igång och gör filmer och tv-serier och blir snabbt populärare än Netflix. Pengarna använder de bland annat för att dölja sina spår. Hela projektet är nämligen hemligt. Om någon får reda på vad de håller på med kan det stoppas.

När miljarderna trillar in i allt snabbare takt börjar AI:n skapa nya innovationer och produkter. Som i sin tur drar in ännu mer pengar.

"Upstart companies around the world were launching revolutionary new products in almost all areas."

Dessa startups är såklart skapade av AI:n.

Fas 2 - ta över världen

Nu startar fas två av planen.

"The Omegas had launched a media company not only to finance their early tech ventures, but also for the next step of their audacious plan: taking over the world."

Det är också vad som sker. Genom ett nyhetsbolag vinner de folks förtroende och börjar sedan pådyvla dem sina åsikter. Allmänheten övertygas och Omegas politiker tar såsmåningom makten i världens alla länder.

"For the first time ever, our planet was run by a single power..."

Allt genom skapandet av en riktigt intelligent AI, som hela tiden opererat i hemlighet.

Blev Tegmarks fiktion verklighet?

Delar av berättelsen är som sagt lik det som har hänt senaste åren.

OpenAI leds av en vd som vill skapa en superintelligent AI. De har skapat en AI som tränats på stora mängder data, men är avstängd från internet. Genom DALL-E och ChatGPT skapar de bland annat media.

Så det tycks som Max Tegmark har haft rätt?

Nej. För det finns även en helt avgörande skillnad. OpenAI utvecklar inte en AI i hemlighet.

De kunde valt samma väg som The Omegas. De kunde i hemlighet skapat GPT3, 4, 5 och så vidare. De kunde, i hemlighet, börjat sprida innehåll som deras AI skapat. De kunde använt Tegmarks fiktion som en ritning. (De hade blivit avslöjade, såklart, men de kunde ha försökt.)

Men det gjorde de inte. Istället låter de alla som vill använda deras AI – gratis. Vi alla kan använda den för att skapa – och det är en fundamental skillnad.

OpenAI är dessutom långt ifrån ensamma. De leder just nu, men Google spurtar för att komma ifatt. Andra jobbar på open source-lösningar. Midjourney leder inom bilder.

Det är så här utveckling går till. I öppenhet. I konkurrens. Det är i fantasins värld ondskefulla genier i hemlighet sitter och smider planer om världsdominans – och lyckas.

Max Tegmark råkar visa svagheten i hans och andra AI-doomsters argument: De underskattar mänskligheten.

Med dessa AI-verktyg som nu börjar bli tillgängliga för oss kommer vi skapa enormt mycket gott. Vi kommer använda dem för att undvika och lösa problem, bland annat problem kopplade till AI. För problem med AI finns och kommer såklart finnas. Vi kommer använda nuvarande snäva AI-modeller för att förstå hur vi bäst utvecklar artificiell generel intelliens på ett säkert och bra sätt. Och vi kommer göra det öppet.

En "paus" skulle allvarligt kunna skada den utvecklingen.

Men en liten paus skadar väl inte?

En liten paus på sex månader låter kanske lockade och harmlöst. Det är det inte.

För det första skulle det ge Kina en chans att komma ifatt. Ni kanske minns hur många det var som varnade för att Kina höll på att vinna AI-racet och hur otroligt illa det skulle vara? Det skulle vara illa om de gjorde det. AI är ett mycket kraftfullt verktyg och det är mycket bättre om de främsta versionerna finns i demokratier.

Kina skulle såklart inte pausa någon utveckling medan vi sitter och rullar AI-tummarna. Inte heller skulle de pausa och vänta om de tog ledningen. Det är en konkret, riktigt fara just nu. Inte något som kanske kan hända i framtiden.

För det andra kan en paus bli permanent. Nuvarande AI-debatt påminner en hel del om GMO-debatten. Massa forskare varnade i upprop för farorna och krävde "pauser" och moratoriums. Resultaten blev allvarliga. EU införde ett mångårigt moratorium. Många tror fortfarande att GMO är farligt, trots att något sådant aldrig observerats.

Samma sak kan ske inom AI-området. Eftersom så många i allmänheten har sett Terminator och andra dystopiska framtidsfilmer kan de lätt föreställa sig supersmarta maskiner som utplånar oss.

Efter en sex månaders paus riskerar utvecklingen att stanna eller bli avsevärt mycket långsammare. Många som börjat utveckla saker inom området skulle tveka. Personer som börjat använda verktygen skulle dra öronen åt sig. Finansieringen skulle minska.

För det tredje bromsar vi allt bra som kommer ur AI-utvecklingen. Det som mer än något annat driver en positiv utveckling är idéer. Vad de senaste AI-verktygen gör är att de släpper loss en enorm mängd mänsklig kreativitet. Vi kommer använda dessa verktyg för att skapa massa nya möjligheter och lösa svåra problem.

💡 Optimist’s Edge: AI frigör en massiv våg av kreativitet

💡 AI kommer att släppa lös massiv outnyttjad kreativitet av oss verktyg för att skapa saker som tidigare bara var tillgängliga för proffs. Denna släppta kreativitet kommer att skapa miljontals jobb och massor av mänskliga framsteg.

Warp NewsMathias Sundin

På två år har vi gått från att känna till utseendet på 200 000 proteiner, till 200 miljoner proteiner. Tack vare AI. Det gör att vi kan förstå livet på jorden bättre och utveckla nya revolutionerande mediciner.

Tänk om vi "pausat" AI-utvecklingen för två år sedan. Tänk vilka genombrott vi missar om vi "pausar" den nu.

En stor mängd förbättringar i våra liv uteblir. Viktiga idéer kommer inte födas, eller dö för tidigt. En möjlig ekonomisk boom utebli. Kampen mot klimatförändringarna blir svårare.

Såklart kommer också problem skapas med AI. Precis som alla andra tekniker kommer en del använda dem för att hitta på djävulskap. Men vågen av bra idéer kommer överskölja de dåliga, som det alltid har varit.

För det fjärde är en långsammare utveckling största hotet mot mänsklighetens överlevnad. Jag överlåter denna sista punkt till David Deutsch och det han skriver i Optimism, pessimism och cynism.

💡 David Deutsch: Optimism, pessimism och cynism

Med så mycket framsteg i världen, hur kan pessimism fortfarande vara utbredd? Det är på grund av cynism, förnekelsen av att “så kallade framsteg” är framsteg, hävdar David Deutsch, professor vid Oxford University och en av världens ledande intellektuella om optimism.

Warp NewsDavid Deutsch

Det sägs ofta att vår civilisation har gått in i en epok av oöverträffad risk för negativa biverkningar av framsteg. Det sägs att för första gången i historien är den globala civilisationen, och till och med vår art, i fara på grund av framstegen. Men så är det inte: den risken har funnits med oss ​​under hela vår arts existens och är mindre nu än någonsin.

Varje art vars medlemmar hade kapacitet för innovation, är nu utrotad, förutom vår, och genetiska bevis visar att det var en närgången sak. Alla av dem, och varje tidigare civilisation som har fallit, kunde ha räddats genom snabbare innovation.

Elden var inte bara alltid farlig och nyttig, det var hjulet också. Ett spjut kan skada eller döda dina vänner, inte bara din middag. Med kläder kom inte bara skydd utan även kroppslöss. Med jordbruket kom inte bara en mer pålitlig matförsörjning utan också hårt, enformigt arbete – och plundring av hungriga banditer.

Varje lösning skapar nya problem. Men de kan vara bättre problem. Mindre av det onda. Fler och större glädjeämnen.

Vi ska och kan fundera över problem och faror med AI, och hur vi ska undvika dessa. Men det gör vi bäst samtidigt som vi skapar mer kunskap och utvecklar verktyg som hjälper oss tänka bättre. Att pausa utveckling är farligt.

Mathias Sundin
Den arge optimisten