Uber non aveva un piano di sicurezza formale in atto al momento in cui una delle sue auto a guida autonoma ha ucciso una donna a Tempe, Arizona, l’anno scorso, secondo una carrellata di nuovi documenti rilasciati dal National Traffic Safety Board martedì. I suoi veicoli autonomi non erano programmati per reagire alle persone che stavano attraversando sulle strisce pedonali, e l’azienda era stata coinvolta in oltre tre dozzine di incidenti prima di quello che ha ucciso la 49enne Elaine Herzberg nel marzo 2018.
Questi nuovi dettagli gettano una luce dura sul programma di veicoli a guida autonoma di Uber, che ha provvisoriamente riavviato i test dopo la chiusura sulla scia dell’incidente del 18 marzo. E hanno posto le basi per un’udienza potenzialmente controversa più tardi questo mese, quando l’NTSB deciderà le probabili cause dell’incidente.
Oltre 400 pagine di documenti sono stati rilasciati dall’NTSB, dipingendo un quadro di una società in cui carenze di sicurezza, decisioni di personale scadente e errori tecnici convergono a Tempe in una notte mortale che da allora si è riverberata in tutta l’industria AV. Fino alla morte di Herzberg, molte aziende che perseguono le auto a guida autonoma stavano correndo per metterle su strada il più rapidamente possibile. Ma ora, la maggior parte degli operatori riconosce che la linea temporale sarà molto più lunga di quanto originariamente previsto. Eppure, Uber è probabile che eviti qualsiasi grave ripercussione, in quanto il procuratore locale sul caso ha detto che sta rifiutando di sporgere denuncia.
Alcuni di ciò che il consiglio sta riportando in questi nuovi documenti erano già noti. Secondo un rapporto preliminare sull’incidente rilasciato dal NTSB nel maggio 2018, il veicolo di Uber ha deciso che aveva bisogno di frenare 1,3 secondi prima di colpire Herzberg, ma la società aveva precedentemente disabilitato il sistema di frenata automatica di emergenza del SUV impostato in fabbrica per prevenire la guida erratica.
Ora sappiamo anche che il veicolo semplicemente non era molto bravo a rispondere agli altri utenti della strada, specialmente quelli che sono i più vulnerabili. Secondo l’NTSB, il software installato nei veicoli di Uber che lo aiuta a rilevare e classificare altri oggetti “non includeva una considerazione per i pedoni che attraversano fuori dalle strisce”. Il sistema ha rilevato Herzberg che stava camminando la sua bicicletta attraverso North Mill Road fuori dalle strisce pedonali pochi minuti prima delle 10PM. Ma l’ha classificata come “altro oggetto,” non una persona.
“Come il cambiato la classificazione del pedone più volte-alternando tra veicolo, bicicletta e un altro-il sistema non era in grado di prevedere correttamente il percorso dell’oggetto rilevato,” il rapporto del consiglio afferma.
La decisione di Uber di disabilitare il sistema di frenata automatica di emergenza incorporato nel SUV Volvo è stata evidenziata come un possibile errore, ma gli esperti di sicurezza notano che probabilmente ha senso evitare qualsiasi conflitto con il sistema di guida autonoma della società. Tuttavia, l’indagine NTSB ha rivelato che Uber ha costruito solo un ritardo di un secondo tra il rilevamento dell’incidente e l’azione per evitare falsi positivi.
Il veicolo di Uber ha rilevato Herzberg 5,6 secondi prima dell’impatto, ma non è riuscito ad attuare la frenata perché ha continuato a classificarla in modo errato. Ogni volta che il sistema di guida automatica arrivava con una nuova classificazione, doveva calcolare una nuova traiettoria per l’oggetto. Una “soppressione dell’azione” di un secondo avrebbe dovuto restituire il controllo all’operatore per la frenata manuale. Ma se l’operatore non è riuscito a gestire la situazione in quell’intervallo di un secondo – cosa che, in questo caso, ha fatto – allora il sistema è progettato per fornire un avviso acustico che la collisione è imminente e avviare un processo di frenata graduale (ma non massima).
Nei mesi dopo l’incidente, Uber ha abbandonato la soppressione dell’azione e ora applica la massima frenata di emergenza per prevenire gli incidenti. In questa nuova configurazione, Uber dice che il veicolo avrebbe frenato quattro secondi prima, il che implica che avrebbe evitato di uccidere Herzberg.
L’incidente del 18 marzo a Tempe non era la prima volta che le auto a guida autonoma di Uber erano state coinvolte in un incidente. Tra settembre 2016 e marzo 2018, i veicoli autonomi di Uber sono stati coinvolti in 37 “crash e incidenti” mentre erano in modalità autonoma, riferisce il consiglio. Ma le auto di Uber erano il “veicolo che colpisce” solo in due di quegli incidenti; la maggior parte ha coinvolto un altro veicolo che ha colpito l’auto autonoma (33 incidenti di questo tipo; 25 di loro erano incidenti posteriori, e in otto incidenti, il veicolo di prova di Uber è stato travolto da un altro veicolo).
Ci sono stati due incidenti in cui il veicolo di Uber era più o meno in difetto. Nel primo, il veicolo ha colpito un dissuasore della pista ciclabile piegato che occupava parzialmente la sua corsia di marcia. Nell’altro incidente, il conducente della sicurezza ha preso il controllo del veicolo per evitare un veicolo in rapido avvicinamento in arrivo che è entrato nella corsia di marcia del veicolo ATG, colpendo una macchina parcheggiata. NTSB riporta anche due incidenti in cui i veicoli di Uber sono stati danneggiati da pedoni di passaggio mentre erano fermi.
C’è stata anche una mancanza di adeguata pianificazione della sicurezza da parte di Uber prima dell’incidente mortale, il consiglio afferma. L’Advanced Technologies Group (ATG) di Uber aveva un team di sicurezza del sistema tecnico, “ma non aveva una divisione autonoma di sicurezza operativa o un responsabile della sicurezza”, afferma il consiglio. “Inoltre, ATG non aveva un piano di sicurezza formale, una procedura operativa standardizzata (SOP) o un documento guida per la sicurezza.”
Uber sostiene di avere politiche di sicurezza, procedure e pratiche di ingegneria che, nel complesso, potrebbero essere considerate un piano di sicurezza, ma riconosce di non avere un piano formale in atto al momento dell’incidente. Per essere sicuri, non c’è nessuna regola federale che richiede agli operatori AV di avere o presentare piani di sicurezza al governo; ci sono solo linee guida volontarie. Uber ha rilasciato il suo primo rapporto sulla sicurezza nel novembre 2018.
I documenti NTSB contengono anche le note di un’intervista con l’autista di sicurezza di Uber Rafaela Vasquez. Nell’intervista, afferma che la decisione di Uber di ridurre il numero di operatori di sicurezza in ogni veicolo da due a uno “corrispondeva al cambiamento dei CEO di Uber”, aggiungendo che “sembrava essere più una decisione politica che un progresso nella tecnologia.”
Dara Khosrowshahi ha assunto il ruolo di CEO di Uber dopo che Travis Kalanick è stato estromesso alla fine del 2017. A quel tempo, Khosrowshahi stava considerando di terminare il programma di guida autonoma, ma alla fine ha deciso di non farlo. Uber dice che la decisione di ridurre gli operatori di sicurezza da due a uno in alcuni veicoli ha preceduto l’arrivo di Khosrowshahi come CEO. Dall’incidente, l’azienda è tornata ad avere due operatori in ogni veicolo durante i test.
“Ci rammarichiamo per l’incidente del marzo 2018 che ha coinvolto uno dei nostri veicoli a guida autonoma che ha preso la vita di Elaine Herzberg”, ha detto un portavoce in risposta ai documenti del NTSB. “Sulla scia di questa tragedia, il team di Uber ATG ha adottato miglioramenti critici del programma per dare ulteriore priorità alla sicurezza. Apprezziamo profondamente la completezza dell’indagine del NTSB sull’incidente e non vediamo l’ora di rivedere le loro raccomandazioni una volta emesse dopo la riunione del consiglio del NTSB alla fine di questo mese.”