Nya spelregler ska skydda mot skadlig ai

2021-04-21 16:45  
På bilden kommissionens ordförande Ursula von der Leyen under en belgisk techdemonstration tidigare i år. Foto: Stephanie Lecocq/AP/TT

Fyra nivåer av acceptabel risk men förbud mot användning av biometrisk övervakning. Det är beskedet när EU-kommissionen nu presenterar sitt lagförslag om artificiell intelligens.

Lagförslaget har som mål att ”förvandla Europa till ett globalt nav för tillförlitlig artificiell intelligens”, enligt ett pressutskick.

Kommissionen påpekar att artificiell intelligens (ai) har potentiellt stor påverkan på en lång rad olika områden och att det för EU:s del dels gäller att ta till vara på medborgarnas rättigheter, dels se till att företag inom ai tillåts växa.

Lagförslaget lutar sig till största delen mot en indelning i fyra riskkategorier. Den potentiellt allvarligaste definieras som oacceptabel risk – dit hör ai som manipulerar mänskligt beteende för att kringgå människors fria vilja såväl som ai använd till att bedöma ”social status". Den här typen av ai ska enligt lagförslaget förbjudas.

Strikta krav

Något mindre allvarligt bedöms högriskområden, däribland biometrisk igenkänning som exempelvis ansiktsigenkänning. Högriskområden föreslås lyda under strikta krav på säkerhet, integritet och möjlighet till transparens.

För de två efterföljande områdena, begränsad risk och lågrisk, föreslås inte några lika hårda krav. Begränsad risk kan exempelvis handla om en meddelanderobot på ett företags hemsida och lågrisk kan vara ett spamfilter.

Undantag för rättsväsendet

För användning av ai som inte utgör högrisk eller värre föreslås också en frivillig uppförandekod.

EU-kommissionen vill vidare att medlemsländerna själva utser en intern myndighet för översyn på området.

Ett område som kommissionen lagt extra vikt vid är ai som används för aktiv övervakning av personer, exempelvis ansiktsigenkänning via övervakningskameror. Den typen av teknik kommer principiellt att vara förbjuden, däremot kommer undantag att kunna göras för exempelvis rättsväsendet i sökandet efter misstänkta brottslingar.

Fakta: Detta är ai

Tanken med artificiell intelligens, förkortat ai är att på konstgjord väg efterlikna hjärnans förmåga att inhämta kunskap, dra slutsatser, planera, lösa problem eller att tolka resultat.

Forskningsområdet fick sitt namn under 1950-talet och har inslag av matematik, informationsteknik, filosofi, lingvistik, psykologi, kognitionsvetenskap och hjärnforskning. Verktygen är oftast algoritmer av olika slag, där en algoritm kan beskrivas som en systematisk procedur som i ett antal steg anger hur ett visst problem ska beräknas eller analyseras.

Källa: Nationalencyklopedin

Marcus Alexandersson/TT

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Debatt