Les choses vont de mal en pis pour les robotaxis de Cruise.

La division de véhicules autonomes de GM, Cruise, traverse déjà une période difficile, le DMV (Department of Motor Vehicles) de Californie ayant récemment suspendu ses permis sans conducteur en raison de problèmes de sécurité. À présent, plusieurs nouveaux articles mettent en lumière d’autres problèmes chez cette entreprise, notamment des difficultés pour ses véhicules autonomes (VA) à détecter les enfants et la fréquence à laquelle les conducteurs humains doivent prendre le contrôle à distance. L’entreprise a également annoncé qu’elle suspendait temporairement la production de son transport autonome Origin. Le problème le plus préoccupant est que, selon de nouveaux rapports, Cruise a laissé ses véhicules sur les routes bien qu’elle sache qu’ils avaient des difficultés à détecter les enfants. Selon des documents d’évaluation de la sécurité internes et jusqu’alors inédits, les véhicules autonomes de Cruise pourraient ne pas être en mesure de détecter efficacement les enfants afin de prendre des précautions supplémentaires. «Les VA de Cruise peuvent ne pas faire preuve de la même vigilance envers les enfants», indique le document. En raison de cela, l’entreprise craignait que ses taxis autonomes ne roulent trop vite près des enfants qui pourraient s’avancer inopinément dans la rue. Cruise ne dispose pas de données sur des situations spécifiques à l’enfance, comme les enfants qui s’éloignent des adultes, tombent, font du vélo ou portent des costumes. Dans une simulation, l’entreprise n’a pu écarter un scénario où un véhicule frappe un enfant. Lors d’une autre conduite d’essai, un véhicule a détecté un mannequin de taille enfantine, mais l’a néanmoins heurté avec un rétroviseur à 28 mph. L’entreprise a attribué ces problèmes à un logiciel et à des tests insuffisants – en particulier, elle ne dispose pas de logiciel d’IA capable de détecter automatiquement les objets en forme d’enfant autour du véhicule et de se déplacer en conséquence. Dans une déclaration à The Intercept, Cruise a admis que, lors de tests de simulation, ses véhicules avaient parfois perdu temporairement de vue les enfants le long du trottoir. Elle a ajouté que le problème avait été résolu et qu’il n’avait été constaté que lors des tests et non sur les routes publiques, sans préciser les mesures prises pour y remédier. Un porte-parole a également déclaré que le système n’avait pas échoué à détecter les enfants, mais avait échoué à les classer comme tels.