Uber had geen formeel veiligheidsplan op zijn plaats op het moment dat een van zijn zelfrijdende auto’s vorig jaar een vrouw doodde in Tempe, Arizona, volgens een trove van nieuwe documenten vrijgegeven door de National Traffic Safety Board op dinsdag. Zijn autonome voertuigen waren niet geprogrammeerd om te reageren op mensen die jaywalking, en het bedrijf was betrokken geweest bij meer dan drie dozijn crashes voorafgaand aan degene die de 49-jarige Elaine Herzberg in maart 2018 doodde.

Deze nieuwe details werpen een hard licht op het zelfrijdende voertuigprogramma van Uber, dat voorlopig opnieuw is begonnen met testen nadat het was stilgelegd in de nasleep van de crash van 18 maart. En ze bereiden de weg voor een mogelijk omstreden hoorzitting later deze maand, wanneer de NTSB zal beslissen over de waarschijnlijke oorzaken van de crash.

Meer dan 400 pagina’s aan documenten werden vrijgegeven door de NTSB, die een beeld schetsen van een bedrijf waar veiligheidslacunes, slechte personeelsbeslissingen en technische misrekeningen samenkwamen in Tempe op een dodelijke nacht die sindsdien heeft nagalmd in de AV-industrie. Tot aan de dood van Herzberg waren veel bedrijven die zelfrijdende auto’s nastreefden, bezig met een race om ze zo snel mogelijk op de weg te krijgen. Maar nu, de meeste exploitanten erkennen de tijdlijn zal veel langer zijn dan oorspronkelijk voorspeld. Toch zal Uber waarschijnlijk ernstige repercussies vermijden, omdat de lokale aanklager in de zaak heeft gezegd dat ze afziet van het indienen van een aanklacht.

Sommige van wat de raad in deze nieuwe documenten rapporteert, was al bekend. Volgens een voorlopig rapport over de crash dat in mei 2018 door de NTSB werd vrijgegeven, besloot het voertuig van Uber dat het 1,3 seconden voordat het Herzberg raakte moest remmen, maar het bedrijf had eerder het in de fabriek ingestelde automatische noodremsysteem van de SUV uitgeschakeld om grillig rijden te voorkomen.

Nu weten we ook dat het voertuig gewoon niet erg goed was in het reageren op andere weggebruikers, vooral degenen die het meest kwetsbaar zijn. Volgens NTSB, de software geïnstalleerd in Uber’s voertuigen die helpt het detecteren en classificeren van andere objecten “bevatte geen rekening voor jaywalking voetgangers.” Het systeem detecteerde Herzberg die een paar minuten voor 22.00 uur met haar fiets over North Mill Road liep buiten de oversteekplaats. Maar het classificeerde haar als “ander object,” niet als een persoon.

“Omdat de classificatie van de voetganger meerdere malen werd gewijzigd – wisselend tussen voertuig, fiets, en een ander – was het systeem niet in staat om het pad van het gedetecteerde object correct te voorspellen,” aldus het rapport van de raad.

Uber’s beslissing om het ingebouwde automatische noodremsysteem van de Volvo SUV uit te schakelen, is benadrukt als een mogelijke misser, maar veiligheidsdeskundigen merken op dat het waarschijnlijk zinvol is om conflicten met het zelfrijdende systeem van het bedrijf te vermijden. Uit het NTSB-onderzoek bleek echter dat Uber slechts een vertraging van één seconde tussen crashdetectie en actie heeft ingebouwd om valse positieven te voorkomen.

Uber’s voertuig detecteerde Herzberg 5,6 seconden voor de botsing, maar het slaagde er niet in om te remmen omdat het haar verkeerd bleef classificeren. Elke keer als het geautomatiseerde rijsysteem met een nieuwe classificatie kwam, moest het een nieuwe baan voor het object berekenen. Een “actie onderdrukking” van een seconde werd verondersteld om de controle terug te geven aan de bestuurder om handmatig te remmen. Maar als de operator er niet in slaagde om in dat interval van één seconde met de situatie om te gaan – wat ze in dit geval deed – dan is het systeem ontworpen om een auditieve waarschuwing te geven dat er een botsing dreigt en een geleidelijk (maar niet maximaal) remproces te starten.

In de maanden na de crash heeft Uber actiesuppressie laten vallen en past het nu maximale noodremmen toe om crashes te voorkomen. In deze nieuwe opzet zegt Uber dat het voertuig vier seconden eerder zou hebben geremd, wat impliceert dat het zou hebben voorkomen dat Herzberg werd gedood.

Het 18 maart-incident in Tempe was niet de eerste keer dat de zelfrijdende auto’s van Uber betrokken waren bij een crash. Tussen september 2016 en maart 2018 waren de autonome voertuigen van Uber betrokken bij 37 “crashes en incidenten” terwijl ze in de autonome modus waren, meldt de raad. Maar de auto’s van Uber waren het “slaande voertuig” in slechts twee van die crashes; de meerderheid betrof een ander voertuig dat de autonome auto raakte (33 van dergelijke incidenten; 25 daarvan waren kop-staart crashes, en in acht crashes werd het testvoertuig van Uber zijdelings geveegd door een ander voertuig).

Er waren twee incidenten waarbij het voertuig van Uber min of meer in gebreke was gebleven. Bij het eerste incident raakte het voertuig een verbogen fietspaal die zijn rijstrook gedeeltelijk in beslag nam. Bij het andere incident nam de veiligheidsbestuurder de controle over het voertuig over om een snel naderende tegenligger te ontwijken die de rijbaan van het ATG-voertuig opreed en daarbij een geparkeerde auto raakte. NTSB meldt ook twee incidenten waarbij de voertuigen van Uber werden beschadigd door passerende voetgangers terwijl ze stilstonden.

Er was ook een gebrek aan adequate veiligheidsplanning door Uber voorafgaand aan de fatale crash, stelt de raad. Uber’s Advanced Technologies Group (ATG) had een technisch systeemveiligheidsteam, “maar had geen standalone operationele veiligheidsdivisie of veiligheidsmanager,” stelt de raad. “Bovendien had ATG geen formeel veiligheidsplan, een gestandaardiseerde operationele procedure (SOP) of een leidend document voor veiligheid.”

Uber stelt dat het wel veiligheidsbeleid, procedures en technische praktijken had die, in totaal, als een veiligheidsplan kunnen worden beschouwd, maar het erkent dat het geen formeel plan had op het moment van de crash. Om zeker te zijn, er is geen federale regel die AV-operators verplicht om veiligheidsplannen te hebben of in te dienen bij de overheid; er zijn alleen vrijwillige richtlijnen. Uber bracht zijn eerste veiligheidsrapport uit in november 2018.

De NTSB-documenten bevatten ook aantekeningen uit een interview met Uber-veiligheidsbestuurder Rafaela Vasquez. In het interview verklaart ze dat de beslissing van Uber om het aantal veiligheidsoperators in elk voertuig te verminderen van twee naar één “overeenkwam met de verandering in Uber CEO’s,” eraan toevoegend dat het “meer een beleidsbeslissing leek te zijn dan een vooruitgang in de technologie.”

Dara Khosrowshahi nam het roer over als CEO van Uber nadat Travis Kalanick eind 2017 werd afgezet. Op dat moment overwoog Khosrowshahi naar verluidt om het zelfrijdende programma te beëindigen, maar besloot uiteindelijk om het niet te doen. Uber zegt dat de beslissing om de veiligheidsoperators terug te brengen van twee naar één in sommige voertuigen voorafging aan Khosrowshahi’s aantreden als CEO. Sinds de crash is het bedrijf terug naar het hebben van twee operators in elk voertuig tijdens het testen.

“We betreuren de crash van maart 2018 met een van onze zelfrijdende voertuigen die Elaine Herzberg het leven kostte,” zei een woordvoerder in reactie op de NTSB-documenten. “In de nasleep van deze tragedie heeft het team van Uber ATG kritieke programmaverbeteringen aangenomen om veiligheid nog meer prioriteit te geven. We waarderen ten zeerste de grondigheid van het onderzoek van de NTSB naar de crash en kijken ernaar uit om hun aanbevelingen te bekijken zodra ze zijn uitgegeven na de bestuursvergadering van de NTSB later deze maand.”