Incidente Uber per colpa di un bug: l'auto ha deciso di non frenare

Emergono delle nuove indiscrezioni sull'incidente di Tempe dello scorso marzo, dove una donna in bicicletta ha perso la vita perché investita da una Volvo XC90 della flotta autonoma di Uber. Sembra che il pedone sia stato rilevato dai sensori ma il software non l'avrebbe riconosciuto come tale proseguendo la marcia fino ad investire la donna. Le fonti da cui è stata diramata la notizia sono volute rimanere anonime, Uber ha preferito non commentare, ma ancora una volta sorgono dubbi sulla sicurezza della guida autonoma.

UN SOFTWARE IMPOSTATO MALE Guardando il video – potete trovarlo qui – si può osservare che passano circa due secondi tra la reazione del driver alla vista della ciclista e l'impatto, è vero che la donna è sbucata all'improvviso ma il sistema avrebbe avuto il tempo di reagire, non farlo è stata una scelta voluta. Le nuove rivelazioni farebbero così cadere le accuse nei confronti dei sensori LIDAR: in realtà hanno fatto il loro lavoro individuando la presenza di un'anomalia sul percorso. Il resto avrebbe dovuto farlo il software, ossia interpretare i segnali provenienti dai sensori e classificare l'ostacolo come pericoloso o meno, ma nel caso di Tempe è avvenuto ciò che viene definito un “falso positivo”: segnalare come falso un qualcosa che in realtà è vero. Ora però c'è da capire le origini dell'errore: il software era stato tarato male per garantire una guida più fluida, o è stato un bug del sistema? Nelle prossime settimane la NTSB dovrebbe rilasciare un rapporto preliminare sull'incidente, speriamo che da qui arrivi una risposta.

UBER NO COMMENT Intanto le indiscrezioni attribuiscono la causa dell'incidente ad un'impostazione sbagliata del software che avrebbe scambiato la donna per una busta di plastica o comunque un oggetto non ostacolante. Precisiamo: sono notizie provenienti dai media, l'incidente è sotto indagine della NTSB e né dall'agenzia per il controllo della sicurezza americana né da Uber è arrivata alcuna dichiarazione ufficiale. Uber, che ha interrotto i test dopo il tragico accaduto, afferma però di credere ancora nella guida autonoma, ed oltre al secco “no comment” ha dichiarato che continuerà con lo sviluppo delle nuove tecnologie. L'azienda infatti annuncia che è in corso una revisione completa delle procedure di sicurezza del programma di veicoli a guida autonoma, e che si affideranno ai consigli dell'ex presidente dell'NTSB Cristopher Hart per aggiornare la propria cultura generale sulla sicurezza. Nei piani previsto inoltre un perfezionamento del percorso di formazione dei driver.

ERRORI DA EVITARE IN FUTURO Fatto sta che comunque rimangono sotto processo i sistemi utilizzati da Uber, Volvo aveva già preso le distanze dichiarando che in realtà la Volvo XC90 è una vettura (di serie) sicurissima se i sistemi di sicurezza rimangono attivi (non come nel caso dell'incidente, come puoi vedere qui). Alcuni test invece hanno dimostrato che altri tipi di software sarebbero stati in grado di riconoscere la persona intervenendo tempestivamente, forse non salvando la donna, perché sbucata all'improvviso, ma comunque riducendo l'entità dell'impatto. C'è inoltre da sottolineare la quota di responsabilità del driver presente a bordo ed evidentemente distratto nel momento dell'impatto (forse per lo stress dei turni). Insomma, in attesa di risposte ufficiali, per ora l'unica cosa certa è che ci sono ancora parecchi aspetti su cui bisogna lavorare per avere una guida autonoma totalmente sicura.