”När är självkörande bilar säkra nog?”

I söndags kväll amerikansk tid omkom en kvinna i delstaten Arizona efter att hon blivit påkörd av en självkörande bil.

Den här tragedin är den första olyckan av sitt slag, och den lämnar oss med en brinnande fråga. När är vi redo att lämna ansvaret över liv och död till algoritmer och sensorer?

I skrivande stund vet vi inte orsaken till olyckan. Uber, vars specialutrustade Volvo XC90 körde på kvinnan, har avbrutit alla sina tester med självkörande bilar och inlett en utredning. Det har även lokal polis som preliminärt sagt att det inte verkar vara bilen som gjort fel.

Arizona, där dödsolyckan skedde, har blivit en testbädd för självkörande bilar. Flera bil- och teknikföretag har robotar som rullar på gatorna, och nyligen tilläts helt förarlösa fordon på gatorna.

Samtidigt är det den delstat där högst andel fotgängare dör i trafiken. Flera hundra varje år, och hittills har det i samtliga fall varit förare av kött och blod bakom ratten.

Ryggmärgsreflexen är förstås att göra som Uber. Avbryta testerna. Kolla över mjukvaran – hur säker är bilen egentligen?

Samtidigt vet vi att mänskliga förare orsakar oräknerliga olyckor varje dag.

Blickar vi framåt står det utom all rimligt tvivel att självkörande bilar på sikt kommer att vara ett säkrare alternativ än att ha människor i trafiken. De varken sms:ar, kör på fyllan eller nickar till vid ratten en tidig morgon på väg till jobbet.

Ser vi dessutom en framtid där alla bilar och mycket av infrastrukturen är uppkopplade och har ett system för att kommunicera med varandra kan olyckor bli än mindre sannolika.

Men vägen dit är lång, och autonoma fordon som testkörs ute i trafiken innebär en fara för liv och hälsa här och nu. Teknikföretagen vill föra utvecklingen framåt och manar hela tiden lagstiftare att ge dem större utrymme att testa autonoma fordon.

En skyddsåtgärd som ofta används är att en mänsklig förare behöver sitta bakom ratten på bilen. Så var även fallet med dödsolyckan i helgen. Men vare sig Volvon eller föraren verkar ha hunnit reagera på fotgängaren.

Det finns många som ifrågasatt hur väl fungerande den här kompromissen är. En människa som övervakar en självkörande bil. Jag har hört flera som argumenterar för att det är svårt för personen ifråga att ha sinnesnärvaron att reagera när bilen i regel klarar sig själv – och ju fler kilometer bilen kan rulla för egen maskin, desto mindre beredd är den mänskliga backupen.

Om vi inte över en natt bestämmer oss för att förbjuda autonoma bilar finns det ett faktum vi måste vara beredda på. Dödsolyckan i Arizona blev den första av sitt slag, men den kommer inte att bli den sista.

Vi får bara krasst fråga oss hur många vi är beredda att acceptera. Eller snarare: hur mycket bättre än en mänsklig förare måste en robot vara för att släppas fri på vägarna?

I förlängningen kommer förstås också nästa fråga. Kommer vi att låta människor köra bil i en framtid där autonoma system är långt säkrare?