La division des véhicules autonomes GM Cruise traverse déjà une période difficile, le département californien des véhicules à moteur (DMV) ayant récemment suspendu ses permis sans conducteur en raison de problèmes de sécurité. Maintenant, plusieurs nouveaux rapports mettent en évidence d’autres problèmes avec la société, notamment des difficultés pour ses véhicules autonomes (VA) à reconnaître les enfants et la fréquence à laquelle les opérateurs humains doivent prendre le contrôle à distance. La société a également annoncé qu’elle suspendait temporairement la production de son transport autonome Origin. Le problème le plus préoccupant est que, selon de nouveaux rapports, Cruise a laissé ses véhicules sur les routes en sachant qu’ils avaient des problèmes de reconnaissance des enfants. Selon des documents d’évaluation de la sécurité internes et jusqu’alors inconnus, les véhicules autonomes de Cruise ne pourraient pas détecter efficacement les enfants pour prendre des précautions supplémentaires. «Les véhicules autonomes Cruise ne peuvent pas faire preuve d’un soin supplémentaire envers les enfants», indique le document. En raison de cela, l’entreprise craignait que ses robotaxis ne roulent trop vite près des enfants qui pourraient se déplacer de manière inattendue dans la rue. Cruise manque également de données sur des situations spécifiques aux enfants, comme les enfants qui se séparent des adultes, tombent, font du vélo ou portent des costumes. Dans une simulation, l’entreprise n’a pu écarter un scénario où un véhicule frappe un enfant. Lors d’un essai de conduite spécifique, un véhicule a détecté un mannequin de taille enfantine, mais l’a quand même heurté à 28 mph avec un rétroviseur. La société a attribué les problèmes à un logiciel et des tests insuffisants – en particulier, elle manque de logiciel d’IA capable de détecter automatiquement les objets en forme d’enfant autour de la voiture et de se déplacer en conséquence. Dans une déclaration à The Intercept, Cruise a admis que ses véhicules avaient parfois temporairement perdu de vue les enfants le long du trottoir lors de tests de simulation. Il a ajouté que le problème avait été résolu et qu’il n’était visible que lors des tests et non sur les routes publiques, bien qu’il n’ait pas précisé les mesures prises pour y remédier. Un porte-parole a également déclaré que le système n’avait pas échoué à détecter les enfants, mais qu’il avait échoué à les classer comme tels.
« Les livres de Penguin Random House disent maintenant explicitement ‘non’ à la formation IA »
‘Écrit par Emma Roth, dont le portfolio couvre aussi bien les percées technologiques grand public, les dynamiques de l’industrie du
