La divisione Cruise per veicoli autonomi di GM sta già attraversando un periodo difficile, con il Dipartimento dei veicoli a motore della California (DMV) recentemente sospeso i suoi permessi senza conducente per questioni di sicurezza. Ora, diversi nuovi rapporti hanno evidenziato altri problemi con l’azienda, inclusi problemi con i suoi veicoli autonomi (AV) che riconoscono i bambini e la frequenza con cui gli operatori umani devono assumere il controllo a distanza. Anche l’azienda appena annunciato che sta temporaneamente sospendendo la produzione del suo trasporto Origin completamente autonomo.
La questione più preoccupante è che Cruise avrebbe mantenuto i suoi veicoli per le strade anche se sapeva che avevano problemi a riconoscere i bambini. L’intercettazione riportato. Secondo materiali di valutazione della sicurezza interni, precedentemente non segnalati, i veicoli autonomi di Cruises potrebbero non essere stati in grado di rilevare efficacemente i bambini per prendere ulteriori precauzioni.
“Gli AV da crociera non possono prestare ulteriore attenzione ai bambini”, afferma il documento. Per questo motivo l’azienda temeva che i suoi robotaxi potessero avvicinarsi troppo velocemente ai bambini che avrebbero potuto spostarsi inaspettatamente in strada. Cruise non dispone inoltre di dati su situazioni specifiche dei bambini, come bambini che si separano dagli adulti, cadono, vanno in bicicletta o indossano costumi.
In una simulazione, l’azienda non ha potuto escludere uno scenario in cui un veicolo investisse un bambino. In un altro test drive specifico, un veicolo ha rilevato un manichino a misura di bambino ma lo ha comunque colpito con uno specchietto a 28 miglia orarie. L’azienda ha attribuito i problemi a software e test inadeguati: in particolare, manca un software di intelligenza artificiale in grado di rilevare automaticamente oggetti a forma di bambino intorno all’auto e manovrare di conseguenza.
In una dichiarazione a L’intercettazione, Cruise ha ammesso che i suoi veicoli a volte perdevano temporaneamente traccia dei bambini sul ciglio della strada durante i test di simulazione. Ha aggiunto che il problema è stato risolto e riscontrato solo durante i test e non nelle strade pubbliche, anche se non ha specificato quali azioni specifiche sono state intraprese per risolvere il problema. Un portavoce ha inoltre affermato che il sistema non ha mancato di individuare i bambini, ma non di classificarli come tali.
Ha inoltre affermato che le probabilità di un incidente che coinvolgesse bambini erano relativamente basse. “Abbiamo determinato, in base alle prestazioni osservate su strada, che il rischio di potenziale collisione con un bambino potrebbe verificarsi una volta ogni 300 milioni di miglia durante la guida di flotta, cosa che da allora abbiamo migliorato. Non si sono verificate collisioni su strada con bambini.”
Il rapporto rileva inoltre che gli AV da crociera hanno difficoltà a rilevare grandi buche nella strada, come le fosse dei cantieri con gli equipaggi all’interno, qualcosa che la società stessa ha definito un “grande rischio”. I documenti della GM indicavano che, anche con la sua piccola flotta di AV, un veicolo era probabile che finisse in un buco del genere almeno una volta all’anno – e in una fossa con persone all’interno una volta ogni quattro anni.
Questo scenario è quasi accaduto, secondo il video recensito da L’intercettazione. Le telecamere di bordo mostrano un AV che guida fino al bordo di una fossa, a pochi centimetri dai lavoratori, nonostante la presenza di coni di costruzione. Si è fermato solo perché qualcuno ha sventolato un cartello “lento” davanti al parabrezza.
“Migliorare la capacità dei nostri AV di rilevare potenziali pericoli attorno alle zone di costruzione è stata un’area di interesse e negli ultimi anni abbiamo condotto test e simulazioni estesi sotto la supervisione umana che hanno portato a continui miglioramenti”, ha affermato la società in una nota. “Questi includono il rilevamento migliorato dei coni, l’evitamento totale delle zone di costruzione con scavi o altre operazioni complesse e l’attivazione immediata del supporto/supervisione dell’assistenza remota dell’AV da parte di osservatori umani.”
Tutto ciò solleva la questione se Cruise debba utilizzare i suoi veicoli su strade pubbliche. “Se non puoi vedere i bambini, è molto difficile per te accettare che non sia un rischio elevato, non importa quanto pensi che accadrà di rado”, ha detto Phil Koopman, professore di ingegneria alla Carnegie Mellon. L’intercettazione.
Il problema del rilevamento dei bambini non è l’unica denuncia recente su Cruise, poiché si scopre che i robotaxi non sono affatto autonomi. Secondo un rapporto, infatti, necessitano di assistenza umana ogni quattro o cinque miglia Il New York Times confermato in gran parte dal CEO di Cruise Kyle Vogt Notizie sugli hacker.
“Gli AV da crociera vengono assistiti da remoto (RA) in media nel 2-4% dei casi, in ambienti urbani complessi.” ha scritto Vogt. Ciò equivale a qualcuno che interviene ogni quattro o cinque miglia, il che potrebbe avvenire più volte in molti viaggi. Di solito c’è un assistente remoto “ogni 15-20 AV senza conducente”, ha affermato Cruise in seguito.
In una dichiarazione a CNBCla società ha fornito ulteriori dettagli: “Spesso l’AV li avvia in modo proattivo [remote assistance actions] prima che sia certo che avrà bisogno di aiuto, ad esempio quando il percorso previsto dell’AV è ostruito (ad esempio, blocchi di costruzione o deviazioni) o se ha bisogno di aiuto per identificare un oggetto”, ha scritto un portavoce. “L’assistenza remota è in sessione circa il 2-4% dei il tempo in cui l’AV è in viaggio, che è minimo, e in questi casi l’advisor RA fornisce informazioni sull’orientamento all’AV, non controllandolo da remoto.”
Infine, sembra che Cruise ne abbia interrotto la produzione Veicolo autonomo di origine dopo che la motorizzazione della California gli ha ritirato la patente, Forbes riportato. In un incontro collettivo con i dipendenti, Vogt, riferendosi al ritiro della licenza DMV, ha affermato che “poiché molto di questo è in continuo cambiamento, abbiamo preso la decisione con GM di sospendere la produzione dell’Origin”, secondo l’audio del incontro.
Cruise sta ancora utilizzando i suoi AV in California, ma ora deve avere un autista di riserva umano al volante. Nel frattempo, la California afferma di aver dato a Cruise un percorso per tornare alle operazioni senza conducente. “Il DMV ha fornito a Cruise i passaggi necessari per richiedere il ripristino dei suoi permessi sospesi, che il DMV non approverà finché la società non avrà soddisfatto i requisiti con soddisfazione del dipartimento,” “si legge in un comunicato.
