Experten: Vi bäddar för olycka med artificiell intelligens

2018-04-19 06:00  
Säkerhetsexperten och författaren Åsa Schwarz Foto: Magnus Fond

Utvecklingen av artificiell intelligens går framåt i rasande takt. Men vågar vi stoppa in kraftfull ai i våra ofta osäkra datorer? Säkerhetsexperten och författaren Åsa Schwarz tror att vi bäddar för att olyckan ska vara framme.

Våra datorer, mobiler och inte minst alla de uppkopplade prylar som brukar kallas för sakernas internet, iot, har en sak gemensamt. De är i grunden inte särskilt säkra.

Du har säkert läst oräkneliga historier om hur hackare använt sårbarheter i it-system för att tömma någons konto, stjäla lösenord eller infektera datorer med utpressarvirus som krypterar alla filer. Samtidigt är vi på väg att ge vår teknik ännu större behörigheter – och låta den börja tänka på egen hand.

– Artificiell intelligens kommer att vara positivt för samhället. Men riskerna ökar också, säger Åsa Schwarz.

Hon är säkerhetsexpert på konsultfirman Knowit, och har en parallell författarkarriär. Nästa bok ska handla om just mötet mellan it-säkerhet och en snabb ai-utveckling.

Ai måste få fatta egna beslut

Om virtuella assistenter som Alexa, självkörande bilar och andra ai-tillämpningar ska kunna uppnå full potential måste vi ge dem rätt att fatta egna beslut. Alexa ska få lov att handla med ditt kreditkort, och din bil måste ha tillstånd att ta liv och död i egna händer för att säkert köra dig från en punkt till en annan.

Åsa Schwarz menar att det finns grundläggande problem med it-säkerheten både i de teknikprodukter som finns på marknaden i dag och i hela vår digitala infrastruktur. När vi adderar ai till ekvationen uppstår nya farliga möjligheter.

– Vi utvecklar väldigt osäkra produkter och system, och så ska vi stoppa in den här kraftfulla tekniken. Jag brukar säga att vi måste lösa de grundläggande säkerhetsproblemen innan vi vågar stoppa in ai som för med sig ytterligare problem, säger hon.

Läs mer: Här är tekniken som kan förutspå en cyberattack

Inte minst för vanliga konsumenter. Går du in i en elektronikaffär finns det gott om information om vilka funktioner en uppkopplad högtalare har – men det är omöjligt att avgöra hur säker den är.

– Kanske behöver vi ha lagar eller krav på säkra produkter. I dag finns elcertifieringar och massor av andra regler, men inte krav på it-säkerhet. Som konsument har man inte en chans att veta om produkterna är säkra. Och ofta är de inte det.

Elva miljarder uppkopplade enheter

Det gäller inte minst internet of things. Vi kopplar upp våra hem, kontor och fabriker i rask fart. Analyshuset Gartner räknar med att vi kommer att ha kopplat upp över elva miljarder enheter när 2018 tackar för sig. År 2020 beräknas den siffran närapå ha dubblerats till dryga 20 miljarder enheter.

– Iot kommer antagligen att vara bärare av väldigt mycket ai. Dagens iot-produkter är bland de mest osäkra saker vi har, det finns inte alls samma krav på dem, säger Åsa Schwarz.

Läs mer: Här är 5 sätt som hackare använder ai på

Hon bedömer att vi kommer att börja se allvarliga incidenter redan inom några år, när ai-teknik som röststyrning och självkörande bilar slår igenom på bred front.

– Om fem år börjar de riktigt stora problemen dyka upp. Då börjar det finnas mognare produkter ute hos konsumenterna, som intelligenta hushållsrobotar och röststyrda, intelligenta hem, säger Åsa Schwarz.

Men hur kan vi hindra de problemen från att uppstå?

– Jag tror inte att vi kan stanna utvecklingen och tänka efter. Det kommer alltid vara någon som vill hinna först ut på marknaden. Jag tror att företagen själva måste inse att det kan vara en konkurrensfördel om de tillverkar säkra produkter.

Åsa Schwarz

Säkerhetsexpert och affärsutvecklare på it-konsultfirman Knowit. 2017 utsågs Åsa Schwarz till Årets säkerhetsprofil på Säkerhetsgalan.

Hon är även författare och har gett ut sex böcker, den senaste är hackerthrillern De sju nycklarna som även ska bli tv-serie. Just nu skriver hon på en ny bok som handlar om ai och it-säkerhet.

Simon Campanello

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

Här är reglerna för kommentarerna på NyTeknik

  Kommentarer

Dagens viktigaste nyheter

Aktuellt inom

Debatt