Experten: Teslas autopilot kommer att döda cyklister

2017-06-02 15:41 Felix Björklund  
Foto: Tesla

Teslas autopilot är ett förarassistansprogram som både hyllats och ifrågasatts. Men nu kommer en skarp varning från en robotforskare: Tekniken har en livsfarlig brist – den ignorerar cyklister.

”Tesla Autopilot recension: Cyklister kommer att dö” – så skriver Heather Knight, robotforskare vid Stanford University. Hon har tillsammans med forskarkollegor testat Teslas förarassistansprogram och dess begränsningar. Och upptäckt att Teslastekniken uppvisade ”skrämmande agnostiskt beteende kring cyklister”.

I sin recension, vars ursprungstanke var att fokusera på användarvänlighet och HMI, lyfter Knight fram att autopilot-finessen fungerar utmärkt i vissa delar – men katastrofalt i andra. Det stora problemet är att det för en ovan förare inte framgår vilka situationer som autopiloten inte bör användas i. Helt enkelt att man inte vet systemets begränsningar.

Stanfordforskaren berättade för tidningen Fortune att den Model S de testade hade svårt att ”se” cyklister och att bilen uppvisade skrämmande beteende i närheten av dessa.

– Jag uppskattar att Autopilot klassificerade runt 30 procent av andra bilar och 1 procent av cyklister. Att inte kunna klassificera objekt innebär inte att bilen inte förstår att det finns något där, men givet att liv står på spel så rekommenderar vi att man aldrig använder Teslas Autopilot när det finns cyklister i närheten.

Heather Knight har kritiserats för att rapporten inte ger tillräckliga bevis för bristerna i systemet och att hennes starka ordalag är överdrivna. Det bör nämnas att testet genomfördes i fjol, och sedan dess har Tesla uppdaterat mjukvaran.

Till Ny Teknik säger Teslas talesperson i Sverige att man i dagsläget inte har en kommentar till påståendet om att systemet skulle äventyra cyklister. Däremot påpekar man att systemet är ett förarassistanssystem – inte en funktion som gör bilen fullt självkörande.

Tesla ligger långt fram i sin utveckling av självkörande bilar. Och även om ”Autopilot” i dagsläget inte gör bilen helt autonom så finns det gott om belägg om att systemet bidrar till säkerhet.

National Highway Traffic Safety Administration (USA:s motsvarighet till Trafikverket) genomförde en omfattande studie efter fjolårets dödsolycka där systemet påstods vara ”vållande”. Resultatet var att man kunde konstatera att systemet inte hade brustit – Tesla fick snarare beröm för hur det utformats.

I rapporten framgår det även att olyckor med Teslabilar minskat med nästan 40 procent efter det att autopilot-systemet introducerades. Den enda kritiken som NHTSA tar upp i rapporten är att Tesla borde vara lite tydligare i att berätta för förare om systemets begränsningar.

Felix Björklund

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

Här är reglerna för kommentarerna på NyTeknik

  Kommentarer

Dagens viktigaste nyheter

Aktuellt inom

Senaste inom

Debatt

SPONSRAT INNEHÅLL

ANNONS