Uber hade ingen formell säkerhetsplan på plats när en av dess självkörande bilar dödade en kvinna i Tempe, Arizona, förra året, enligt en mängd nya dokument som släpptes av National Traffic Safety Board på tisdagen. Dess autonoma fordon var inte programmerade för att reagera på personer som gick över gatan, och företaget hade varit inblandat i över tre dussin olyckor före den som dödade 49-åriga Elaine Herzberg i mars 2018.
De här nya detaljerna kastar ett hårt ljus över Ubers program för självkörande fordon, som preliminärt har återupptagit testerna efter att ha stängt ner i kölvattnet av olyckan den 18 mars. Och de lägger grunden för en potentiellt kontroversiell utfrågning senare den här månaden när NTSB ska avgöra de troliga orsakerna till olyckan.
Over 400 sidor dokument släpptes av NTSB och målar upp en bild av ett företag där säkerhetsbrister, dåliga personalbeslut och tekniska missbedömningar sammanstrålade i Tempe en dödlig natt som sedan dess har fått ett efterskalv i hela AV-branschen. Fram till Herzbergs död tävlade många företag som sysslade med självkörande bilar för att få ut dem på vägarna så snabbt som möjligt. Men nu erkänner de flesta operatörer att det kommer att ta mycket längre tid än vad som ursprungligen förutsågs. Ändå kommer Uber sannolikt att undvika allvarliga konsekvenser, eftersom den lokala åklagaren i fallet har sagt att hon avstår från att väcka åtal.
En del av det som styrelsen rapporterar i dessa nya dokument var redan känt. Enligt en preliminär rapport om olyckan som NTSB släppte i maj 2018 beslutade Ubers fordon att det behövde bromsa 1,3 sekunder innan det träffade Herzberg, men företaget hade tidigare inaktiverat SUV:ns fabriksinställda automatiska nödbromssystem för att förhindra oregelbunden körning.
Nu vet vi också att fordonet helt enkelt inte var särskilt bra på att reagera på andra trafikanter, särskilt inte på dem som är de mest sårbara. Enligt NTSB omfattade den mjukvara som installerats i Ubers fordon och som hjälper den att upptäcka och klassificera andra objekt “inte någon hänsyn till fotgängare som går på gatan”. Systemet upptäckte Herzberg som gick på sin cykel över North Mill Road utanför övergångsstället några minuter före kl. 22.00. Men det klassificerade henne som “annat objekt”, inte som en person.
“Eftersom klassificeringen av fotgängaren ändrades flera gånger – och växlade mellan fordon, cykel och annat – kunde systemet inte korrekt förutsäga det upptäckta objektets väg”, står det i nämndens rapport.
Ubers beslut att inaktivera Volvo SUV:s inbyggda automatiska nödbromssystem har lyfts fram som en möjlig försummelse, men säkerhetsexperter påpekar att det förmodligen är vettigt för att undvika eventuella konflikter med företagets självkörande system. NTSB:s utredning avslöjade dock att Uber endast byggde in en fördröjning på en sekund mellan krockdetektering och åtgärd för att undvika falska positiva resultat.
Ubers fordon upptäckte Herzberg 5,6 sekunder före kollisionen, men misslyckades med att genomföra en inbromsning eftersom det fortsatte att felklassificera henne. Varje gång det automatiska körsystemet kom fram till en ny klassificering var det tvunget att beräkna en ny bana för objektet. En ensekunders “åtgärdsundertryckning” skulle lämna tillbaka kontrollen till föraren för manuell inbromsning. Men om föraren misslyckades med att hantera situationen inom det ensekundersintervallet – vilket hon i det här fallet gjorde – är systemet utformat för att ge en auditiv varning om att en kollision är nära förestående och påbörja en gradvis (men inte maximal) inbromsning.
Månaderna efter olyckan har Uber slopat aktionsundertryckning och tillämpar nu maximal nödbromsning för att förhindra krockar. I denna nya inställning säger Uber att fordonet skulle ha bromsat fyra sekunder tidigare, vilket innebär att det skulle ha undvikit att döda Herzberg.
Incidenten i Tempe den 18 mars var inte första gången Ubers självkörande bilar var inblandade i en olycka. Mellan september 2016 och mars 2018 var Ubers självkörande fordon inblandade i 37 “krascher och incidenter” när de var i autonomt läge, rapporterar styrelsen. Men Ubers bilar var det “påkörande fordonet” i endast två av dessa krascher; majoriteten involverade ett annat fordon som slog mot den självkörande bilen (33 sådana incidenter; 25 av dem var bakåtkörningar, och i åtta krascher blev Ubers testfordon påkört vid sidan av ett annat fordon).
Det fanns två incidenter där Ubers fordon var mer eller mindre skyldigt. I den första drabbade fordonet en böjd cykelbanepollare som delvis upptog dess körfält. I den andra incidenten tog säkerhetsföraren kontroll över fordonet för att undvika ett snabbt annalkande mötande fordon som kom in i ATG-fordonets körfält och träffade en parkerad bil. NTSB rapporterar också om två incidenter då Ubers fordon skadades av förbipasserande fotgängare när de stannade.
Det fanns också en brist på adekvat säkerhetsplanering från Ubers sida före dödsolyckan, konstaterar NTSB. Ubers Advanced Technologies Group (ATG) hade ett tekniskt säkerhetsteam för system, “men hade ingen fristående avdelning för operativ säkerhet eller säkerhetsansvarig”, konstaterar nämnden. “Dessutom hade ATG ingen formell säkerhetsplan, inga standardiserade operativa rutiner (SOP) eller vägledande dokument för säkerhet.”
Uber hävdar att man hade säkerhetsriktlinjer, rutiner och tekniska metoder som sammantaget skulle kunna betraktas som en säkerhetsplan, men erkänner att man inte hade någon formell plan på plats vid tidpunkten för olyckan. Det finns förvisso ingen federal regel som kräver att AV-operatörer ska ha eller lämna in säkerhetsplaner till regeringen, utan det finns bara frivilliga riktlinjer. Uber släppte sin första säkerhetsrapport i november 2018.
NTSB-dokumenten innehåller också anteckningar från en intervju med Ubers säkerhetsförare Rafaela Vasquez. I intervjun uppger hon att Ubers beslut att minska antalet säkerhetsoperatörer i varje fordon från två till en “motsvarade förändringen av Ubers vd:ar”, och tillägger att det “verkade vara mer ett politiskt beslut än ett framsteg inom tekniken.”
Dara Khosrowshahi tog över som vd för Uber efter att Travis Kalanick avsattes i slutet av 2017. Vid den tidpunkten ska Khosrowshahi ha övervägt att avsluta det självkörande programmet, men beslutade sig till slut för att inte göra det. Uber säger att beslutet att minska säkerhetsoperatörerna från två till en i vissa fordon föregick Khosrowshahis tillträde som vd. Sedan olyckan har företaget återgått till att ha två operatörer i varje fordon under tester.
“Vi beklagar olyckan i mars 2018 som involverade ett av våra självkörande fordon och som tog Elaine Herzbergs liv”, säger en talesperson som svar på NTSB:s dokument. “I kölvattnet av denna tragedi har teamet på Uber ATG antagit kritiska programförbättringar för att ytterligare prioritera säkerheten. Vi värdesätter djupt grundligheten i NTSB:s utredning av olyckan och ser fram emot att granska deras rekommendationer när de har utfärdats efter NTSB:s styrelsemöte senare denna månad.”