💡 Arge optimistens funderingar: Om Max Tegmarks dödsångest

Samt om Indiens makalösa tillväxt, Midjourneys makalösa utveckling och Khan Academys makalösa AI-lärare.

Mathias Sundin 11.maj.20233 min read

Dela artikeln

☠️ Max Tegmarks rädsla för döden

Så fort jag skriver något positivt om AI eller argumenterar mot en AI-paus så skickar någon en länk till Lex Fridmans intervju med Max Tegmark.

Det kan jag förstå, för den är bra. Max framstår som mycket sympatisk, inte minst när han pratar om den fina relationen han hade med sina föräldrar. Det är också tydligt att hans engagemang i AI-frågorna är djupt och äkta.

Max Tegmark har tagit rollen som den ledande personen i världen, när det kommer till att varna för farorna med AI.

Det var emellertid en annan sak som framförallt stod ut för mig i intervjun. Hans dödsångest.

Det är möjligt att det är en överdriven beskrivning, men döm själva. Så här sa han i intervjun:

För det första har jag enorm respekt för Eliezer Yudkowsky och hans tänkande. För det andra delar jag hans syn att det finns en ganska stor chans att vi inte kommer att klara oss som människor. Det kommer inte att finnas några människor på planeten inom en inte alltför avlägsen framtid. Och det gör mig väldigt ledsen. Vi har precis fått en liten bebis och jag frågar mig själv hela tiden, hur gammal kommer han ens att bli?

När han säger det sista börjar han nästan gråta, vilket jag verkligen kan förstå, eftersom han känner som han gör. Inget får mig lättare till tårar än allting som har med min lille son, Teddy, att göra. Både glädje och sorg.

Tegmark tror att det mest sannolika är att alla människor, alla han känner, alla han älskar, inklusive hans son, kommer att dö inom en inte alltför avlägsen framtid. På grund av AI.

En sådan övertygelse och känsla i kroppen påverkar rimligen ens tänkande.

Jag skriver inte det för att förminska vare sig det han känner eller tänker, men när vi lyssnar på honom och hans förslag – och jag tycker vi ska lyssna, även om vi inte håller med – så ska vi komma ihåg att detta är hans inställning och sinnesstämning.

Om Max Tegmark vore vem som helst i AI-debatten så spelade det mindre roll. Men nu är han den ledande personen, eller i alla fall en av de ledande personerna.

För övrigt, Eliezer Yudkowsky är den person som skrev att vi måste vara beredda att bomba AI-centers, om de inte stänger ner. Inte en ståndpunkt jag känner "enorm respekt" för.

I intervjun beskriver också Tegmark mycket av det positiva som kan komma av AI och han tycker det är för mycket doom and gloom i nyhetsmedia. Det är en ståndpunkt jag håller med honom helt om.