Nyhetsmedia har senaste dygnet fyllts av rapporten om att en militär drönare styrd av en AI har vägrat lyda order och dödat den som gav ordern:

Under en militärövning i USA ska en AI-styrd drönare ha struntat i att följa order och i stället attackerat och dödat sin egen kontrollant.

Så här skriver ett nyhetsmedia:

"Den AI-programmerade drönaren bestämde sig på egen hand för att göra så som den själv ville, i stället för att ta order från en människa. ... 'När AI-systemet identifierade ett hot, kunde den mänskliga kontrollanten ibland beordra systemet att inte döda hotet'.
Men systemet är byggt för att få poäng när det dödar sitt hot.
'Så vad gjorde systemet? Det dödade sin kontrollant. Det dödade sin kontrollant eftersom den personen hindrade systemet från att uppnå sitt mål'
Efter incidenten ska drönaren ha programmerats med en specifik uppmaning: Döda inte den kontrollant som styr dig. Men då hände någonting annat.
'Den förstörde det kommunikationstorn som operatören använder för att kommunicera med drönaren', säger Tucker ”Cinco” Hamilton.

Läskigt va?

Det är bara det att det inte har hänt.

Det skedde i en simulering, skriver de flesta medier som rapporter om händelsen.

Men inte heller det är sant.

Det var bara ett tankeexperiment om vad som skulle kunna hända. Det har inte ens hänt i en simulering.

Uppgiften som spridits kom från en överste Tucker "Cinco" Hamilton som pratat på en konferens.

Amerikanska flygvapnet har gått ut med ett klargörande:

"Flygvapendepartementet har inte genomfört några sådana AI-drönarsimuleringar och förblir engagerade i etisk och ansvarsfull användning av AI-teknik. Det verkar som att överstens kommentarer togs ur sitt sammanhang och var avsedda att vara anekdotiska."

Uppiskad domedagsstämning är orsaken

En stor bov i dramat att denna story fick fötter är den överdrivna och uppskruvade domedagsretoriken om AI, som vi hört senaste månaderna.

När nyhetsflödet fyllts av att AI ska utplåna mänskligheten så var det få som höll sig kritiska till den här "nyheten." Medierna kastade sig över den och folk delade hejvilt i sociala medier. "Nu börjar det!" typ.

Domedagsretorik är farligt. Folk blir rädda. Vi blir okritiska och uppjagade. Vi tänker inte klart. Instikter tar över.

Men teorierna om mänsklighetens utplåning är just det, teorier. Och då är jag ändå snäll vad jag kallar dem. Det finns inga faktisk belägg för att något sådant skulle ske, och verkligen inte att sannolikheten att det skulle hända är stor.

Det enda vi behöver vara rädda för, är rädslan.

Mathias Sundin
Den arge optimisten