Om jag vore kriminell skulle jag satsa på bedrägerier med hjälp av AI. Samtidigt som det blir lättare att generera bilder, videos, ljud och text för bra saker, blir det också lättare för dåliga saker. Som att klona röster och skriva övertygande texter för att lura av någon pengar. Detta är ett verkligt AI-problem, till skillnad från fantasierna om mänsklighetens undergång.

Men som så ofta finns lösningen i samma teknik. Två saker har hänt senaste tiden som gör att jag tror att just AI kommer vara effektivt i att bekämpa bedrägerier.

Det ena var att Truecaller släppte en tjänst som kan avgöra om samtalet du får är en mänsklig röst eller en AI-klonad röst. Det går ju exempelvis att spela in någon av dina familjemedlemmars röst från ett klipp i sociala medier, klona den och använda den för att ringa upp dig. Men Truecaller kan upptäcka om rösten är syntetisk.

Det andra var att iPhones kommer kunna spela in, transkribera och sammanfatta samtal. Till det är steget inte långt att också identifiera både klonade röster men även analysera samtalet och upptäcka misstänkt bedrägeri.

Det måste inte vara en AI som ringer eller en klonad röst, det kan vara en riktig människa med ett vanligt telefonbedrägeri. När iPhones AI hör att samtalet handlar om att föra över pengar, eller den typ av samtal som bedragare för, kan den slå larm. Det skulle även kunna kopplas till några minuters spärrning av möjligheten att föra över pengar. Det är såklart ganska extremt, men är man orolig över en gammal förälder kan man ha den tjänsten i deras telefon.

Apple har inte sagt att denna antiscam-funktion kommer att finnas, men jag tror det finns en god chans att den dyker upp.

Inte bara telefonsamtal

Samma metod kan användas för att upptäcka bedrägerier i text. I mejlen har vi sedan länge ett sådant skydd i form av upptäckt och bortfiltrering av spam. Nu kan det bli bättre och inte bara i mejlen.

Får du ett meddelande på Messenger från någon som uppger sig för att vara din dotter kan en AI, precis som på samma sätt som vid ett telefonsamtal, upptäcka misstänkt aktivitet och varna dig.

Löser del av problemet, men inte hela

Som alla tekniska lösningar bygger denna på att den används. Användaren måste aktivt slå på funktionen. Kanske kan det i fallet Apple bli en del av deras standard, men eftersom många inte kommer vara bekväma med att en AI lyssnar på samtalet, blir det sannolikt något man måste slå på själv.

Den AI som gör upptäckten kan troligen göra jobbet direkt i din telefon, vilket innebär att dina privata samtal och meddelanden inte behöver laddas upp ytterligare någonstans.

Förhoppningsvis kan Apple och andra pusha det på ett sätt som gör att många använder tjänsten. Vid ett brett användande skulle det avsevärt försvåra för bedragarna och bidra till att minska problemet.

Mathias Sundin
Arge optimisten