Fem sätt hackare kan attackera med hjälp av artificiell intelligens

2018-04-19 06:00  

Dataanalys, bildmanipulation och skräddarsydda bluffmejl. Artificiell intelligens kan ge hackarna en ny arsenal att jobba med.

Om säkerhetsföretagen kan dra nytta av ai och maskininlärning kan man vara säker på att hackarna ser samma potential i tekniken.

Staffan Truvé som är forskningschef på säkerhetsföretaget Recorded Future menar att den ”mörka sidan” i många fall kan dra nytta av ai på samma sätt som säkerhetsföretagen själva.

– All bra forskning som gjorts på att hitta fel och brister i programvaran kan den onda sidan också använda. Man bygger program för att hitta ”buffer overflow”-problem, men för den andra sidan blir det ”buffer overflow”– möjligheter i stället, säger han.

1. Bättre bluffmejl

Många dataintrång och bedrägerier börjar med ett bluffmejl. Kan man lura mottagaren att öppna en bifogad fil eller klicka på en länk är man på god väg att smyga in en trojan eller ett utpressarvirus på ett företags nätverk.

Där kommer maskininlärning och avancerad textanalys att spela en stor roll om några år tror Daniel Akenine, säkerhetschef på Microsoft i Sverige.

– Vi kommer att fortsätta att se ännu fler avancerade sociala bedrägerier. De kommer att kunna simulera dina interaktioner, kanske genom att kapa ditt Facebook-konto och sedan titta igenom dina interaktioner med dina vänner, dina chattloggar, säger han.

Läs mer: Här är tekniken som kan förutspå en cyberattack

En hackare som kommit över ditt mejlkonto eller inloggningen till dina sociala medier kan låta en ai läsa igenom dina privata meddelanden och lista ut hur just du formulerar dig.

– Sedan kan de använda ai för att skapa väldigt liknande kommunikationer. De kanske följer samma tråd som redan pågår i en chattkonversation. Det blir väldigt lätt att bli lurad att tro att du pratar med samma person som för tio minuter sedan. Den typen av avancerade sociala bedrägerier tror jag är nästa steg, säger Daniel Akenine.

2. Kartlägga offer

Recorded Futures affärsidé är att dammsuga nätet på data och använda den för att dra slutsatser om kommande cyberhot. Staffan Truvé säger att även cyberkriminella kan använda överflödet av information på nätet för sina maskininlärningsmodeller.

Läs mer: Experten: Vi bäddar för olycka med artificiell intelligens

Genom att kartlägga tänkta offer på exempelvis sociala medier kan de få ut information som blir viktig för att genomföra angrepp eller bedrägerier.

– Dels kan man göra storskalig målanalys och till exempel titta på säkerhetsfrågor som "vad hette din mamma innan hon gifte sig?". Precis sådant man kan få om man skrapar sociala medier på information om dig. Det går också att doxxa [avslöja den verkliga identiteten bakom en anonym nätanvändare, reds. anm] folk automatiskt på det viset, säger Staffan Truvé.

3. Skrämmande äkta förfalskningar

Historien om så kallade deepfakes fick stor spridning i början av året. Några användare på forumet Reddit hade byggt en maskininlärningsbaserad mjukvara för att manipulera filmer – och i sann Reddit-anda användes verktyget främst för att klippa in kändisars ansikten i porrfilmer.

Deepfakes är fortfarande inte ett perfekt verktyg, och än så länge går det i många fall att upptäcka manipulationen med blotta ögat. Men det är lätt att se hur samma teknik kan användas för avancerade bedrägerier eller utpressningsförsök när den blir med finslipad.

4. Lura captcha-tester

Du känner säkert till captcha. Det är testerna på nätet där du intygar att du inte är en robot genom att skriva av en suddig text från en bild eller peka ut vilka bilder som föreställer bilar eller hundar.

Tyvärr är de inte fullt så effektiva längre. Forskare har visat hur de går att kringgå med hjälp av maskininlärning, och hackarna har anammat metoderna.

Läs mer: Ai-forskaren som kämpar för opartiska algoritmer

Det allra mest populära ai-verktyget på nätets hackerforum är just ett program för att kringgå captcha-tester, enligt Recorded Futures analyser.

5. Skapa nya virus

Kinesiska forskare har redan visat hur man kan använda maskininlärning för att skapa nya virus. De gjorde det i syfte att hitta ny skadlig kod att träna antivirusverktyg på, men hackare skulle kunna använda samma metoder för att modifiera befintliga virus och göra dem svårare att upptäcka.

Hackarna ligger efter i utvecklingen

Men än så länge har det inte skett någon explosion av ai-drivna cyberbrottslingar på nätet. Förklaringen är förmodligen att de hittills har klarat sig tillräckligt bra på traditionella metoder.  

– Vår slutsats är att skälet till att de inte använder de här teknikerna mer i dag är att de tjänar tillräckligt med pengar på sina primitiva metoder, tyvärr, säger Staffan Truvé på Recorded Future.

Simon Campanello

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

Här är reglerna för kommentarerna på NyTeknik

  Kommentarer

Dagens viktigaste nyheter

Aktuellt inom

Debatt