Uber havde ikke en formel sikkerhedsplan på plads på det tidspunkt, hvor en af dets selvkørende biler dræbte en kvinde i Tempe, Arizona, sidste år, ifølge et væld af nye dokumenter offentliggjort af National Traffic Safety Board på tirsdag. Dets autonome køretøjer var ikke programmeret til at reagere på folk, der gik over stregen, og virksomheden havde været involveret i over tre dusin ulykker før den, der dræbte den 49-årige Elaine Herzberg i marts 2018.
Disse nye detaljer kaster et hårdt lys på Ubers program for selvkørende køretøjer, som forsøgsvis har genstartet testningen efter at have lukket ned i kølvandet på ulykken den 18. marts. Og de lægger op til en potentielt omstridt høring senere på måneden, hvor NTSB skal afgøre de sandsynlige årsager til ulykken.
Over 400 sider dokumenter blev frigivet af NTSB og tegner et billede af en virksomhed, hvor sikkerhedsbrister, dårlige personalebeslutninger og tekniske fejlberegninger konvergerede i Tempe på en dødbringende nat, der siden har givet genlyd i hele AV-branchen. Indtil Herzbergs død kørte mange virksomheder, der arbejdede med selvkørende biler, et kapløb om at få dem på vejene så hurtigt som muligt. Men nu erkender de fleste operatører, at tidslinjen vil være meget længere end oprindeligt forudset. Alligevel vil Uber sandsynligvis undgå alvorlige konsekvenser, da den lokale anklager i sagen har sagt, at hun afstår fra at rejse tiltale.
Meget af det, som bestyrelsen rapporterer i disse nye dokumenter, var allerede kendt. Ifølge en foreløbig rapport om ulykken, som NTSB offentliggjorde i maj 2018, besluttede Ubers køretøj, at det skulle bremse 1,3 sekunder før det ramte Herzberg, men virksomheden havde tidligere deaktiveret SUV’ens fabriksindstillede automatiske nødbremsesystem for at forhindre uregelmæssig kørsel.
Nu ved vi også, at køretøjet bare ikke var særlig godt til at reagere på andre trafikanter, især dem, der er de mest sårbare. Ifølge NTSB omfattede den software, der er installeret i Ubers køretøjer, og som hjælper den med at registrere og klassificere andre objekter, “ikke hensynet til fodgængere, der går på tværs af gaden”. Systemet registrerede dog Herzberg, som gik på sin cykel over North Mill Road uden for fodgængerfeltet et par minutter før kl. 22.00. Men det klassificerede hende som “andet objekt”, ikke som en person.
“Da systemet ændrede klassificeringen af fodgængeren flere gange – og skiftede mellem køretøj, cykel og andet – var det ikke i stand til at forudsige den registrerede objekts vej korrekt”, står der i rapporten fra styrelsen.
Ubers beslutning om at deaktivere Volvo SUV’ens indbyggede automatiske nødbremsesystem er blevet fremhævet som en mulig fejl, men sikkerhedseksperter bemærker, at det sandsynligvis giver god mening at undgå konflikter med virksomhedens selvkørende system. NTSB’s undersøgelse afslørede imidlertid, at Uber kun indbyggede en forsinkelse på et sekund mellem kollisionsdetektering og handling for at undgå falske positiver.
Ubers køretøj opdagede Herzberg 5,6 sekunder før kollisionen, men det undlod at iværksætte en bremsning, fordi det blev ved med at fejlklassificere hende. Hver gang det automatiserede køresystem kom frem til en ny klassificering, måtte det beregne en ny bane for objektet. Det var meningen, at en et-sekunders “action suppression” skulle give kontrollen tilbage til føreren, så han kunne foretage en manuel bremsning. Men hvis operatøren ikke formåede at håndtere situationen i dette et-sekunders-interval – hvilket hun i dette tilfælde gjorde – er systemet designet til at give en akustisk advarsel om, at en kollision er nært forestående, og starte en gradvis (men ikke maksimal) bremseproces.
I månederne efter ulykken har Uber droppet action suppression og anvender nu maksimal nødbremsning for at forhindre ulykker. I denne nye opsætning siger Uber, at køretøjet ville have bremset fire sekunder for tidligt, hvilket indebærer, at det ville have undgået at dræbe Herzberg.
Hændelsen den 18. marts i Tempe var ikke første gang, at Ubers selvkørende biler var involveret i et uheld. Mellem september 2016 og marts 2018 var Ubers selvkørende biler involveret i 37 “ulykker og hændelser”, mens de var i autonom tilstand, rapporterer styrelsen. Men Ubers biler var det “rammende køretøj” i kun to af disse sammenstød; størstedelen involverede et andet køretøj, der ramte den autonome bil (33 sådanne hændelser; 25 af dem var bagende sammenstød, og i otte sammenstød blev Ubers testkøretøj sidelæns ramt af et andet køretøj).
Der var to hændelser, hvor Ubers køretøj mere eller mindre var skyld i ulykken. I den første ramte køretøjet en bøjet cykelbanepæl, der delvist optog dets kørebane. I den anden hændelse tog sikkerhedschaufføren kontrol over køretøjet for at undgå et hurtigt nærmende modkørende køretøj, der kom ind i ATG-køretøjets kørebane og ramte en parkeret bil. NTSB rapporterer også om to hændelser, hvor Ubers køretøjer blev beskadiget af forbipasserende fodgængere, mens de var standset.
Der var også en mangel på tilstrækkelig sikkerhedsplanlægning fra Ubers side forud for den fatale ulykke, fastslår styrelsen. Ubers Advanced Technologies Group (ATG) havde et teknisk systemsikkerhedsteam, “men havde ikke en selvstændig afdeling for operationel sikkerhed eller en sikkerhedschef”, anfører styrelsen. “Derudover havde ATG ikke en formel sikkerhedsplan, en standardiseret driftsprocedure (SOP) eller et vejledende dokument for sikkerhed.”
Uber hævder, at det havde sikkerhedspolitikker, procedurer og teknisk praksis, der samlet set kunne betragtes som en sikkerhedsplan, men det erkender, at det ikke havde en formel plan på plads på tidspunktet for ulykken. Der findes ganske vist ingen føderale regler, der kræver, at AV-operatører skal have eller indsende sikkerhedsplaner til regeringen; der findes kun frivillige retningslinjer. Uber offentliggjorde sin første sikkerhedsrapport i november 2018.
NTSB-dokumenterne indeholder også noter fra et interview med Uber-sikkerhedschauffør Rafaela Vasquez. I interviewet udtaler hun, at Ubers beslutning om at reducere antallet af sikkerhedsoperatører i hvert køretøj fra to til én “svarede til skiftet i Ubers administrerende direktører”, og hun tilføjer, at det “syntes mere at være en politisk beslutning end et fremskridt inden for teknologien.”
Dara Khosrowshahi overtog posten som administrerende direktør for Uber, efter at Travis Kalanick blev afsat i slutningen af 2017. På det tidspunkt overvejede Khosrowshahi angiveligt at afslutte det selvkørende program, men besluttede sig i sidste ende imod det. Uber siger, at beslutningen om at reducere sikkerhedsoperatørerne fra to til én i nogle køretøjer gik forud for Khosrowshahis tiltræden som CEO. Siden ulykken er virksomheden tilbage til at have to operatører i hvert køretøj under test.”
“Vi beklager ulykken i marts 2018, der involverede et af vores selvkørende køretøjer, som tog Elaine Herzbergs liv,” sagde en talsmand som svar på NTSB-dokumenterne. “I kølvandet på denne tragedie har teamet hos Uber ATG vedtaget kritiske programforbedringer for yderligere at prioritere sikkerheden. Vi sætter stor pris på grundigheden af NTSB’s undersøgelse af ulykken og ser frem til at gennemgå deres anbefalinger, når de er udstedt efter NTSB’s bestyrelsesmøde senere på måneden.”