La version originale de cette histoire est apparu dans Combien de magazine.

Voitures sans conducteur et Les avions ne sont plus des affaires de l'avenir. Dans la ville de San Francisco seulement, deux compagnies de taxi ont collectivement enregistré 8 millions de miles de conduite autonome jusqu'en août 2023. Et plus de 850 000 véhicules aériens autonomes, ou drones, sont enregistrés aux États-Unis – pas de compter ceux appartenant à l'armée.

Mais il y a des préoccupations légitimes concernant la sécurité. Par exemple, dans une période de 10 mois qui s'est terminée en mai 2022, la National Highway Traffic Safety Administration signalé Près de 400 accidents impliquant des automobiles en utilisant une certaine forme de contrôle autonome. Six personnes sont mortes à la suite de ces accidents et cinq ont été gravement blessés.

La façon habituelle de résoudre ce problème – parfois appelé «test par épuisement» – implique de tester ces systèmes jusqu'à ce que vous soyez satisfait d'être en sécurité. Mais vous ne pouvez jamais être sûr que ce processus découvrira tous les défauts potentiels. «Les gens effectuent des tests jusqu'à ce qu'ils aient épuisé leurs ressources et leur patience», a déclaré Sayan Mitrainformaticien de l'Université de l'Illinois, Urbana-Champaign. Le test seul, cependant, ne peut pas fournir de garanties.

Mitra et ses collègues le peuvent. Son équipe a réussi à prouver le sécurité des capacités de suivi des voies pour les voitures et atterrissage pour les avions autonomes. Leur stratégie est maintenant utilisée pour aider à atterrir les drones sur les porte-avions, et Boeing prévoit de le tester sur un avion expérimental cette année. “Leur méthode de fourniture de garanties de sécurité de bout en bout est très importante”, a déclaré Corina Pasareanuun chercheur scientifique à l'Université Carnegie Mellon et au centre de recherche Ames de la NASA.

Leur travail consiste à garantir les résultats des algorithmes d'apprentissage automatique qui sont utilisés pour informer les véhicules autonomes. À un niveau élevé, de nombreux véhicules autonomes ont deux composants: un système perceptuel et un système de contrôle. Le système de perception vous indique, par exemple, à quelle distance votre voiture est du centre de la voie, ou dans quelle direction un plan se dirige et quel est son angle par rapport à l'horizon. Le système fonctionne en alimentant les données brutes à partir de caméras et d'autres outils sensoriels aux algorithmes d'apprentissage automatique basés sur des réseaux de neurones, qui recréent l'environnement à l'extérieur du véhicule.

Ces évaluations sont ensuite envoyées à un système distinct, le module de contrôle, qui décide quoi faire. S'il y a un obstacle à venir, par exemple, il décide de l'application des freins ou de le surmonter. Selon Luca Carloneprofesseur agrégé au Massachusetts Institute of Technology, tandis que le module de contrôle repose sur une technologie bien établie, “elle prend des décisions en fonction des résultats de la perception, et rien ne garantit que ces résultats sont corrects.”

Pour fournir une garantie de sécurité, l'équipe de Mitra a travaillé à assurer la fiabilité du système de perception du véhicule. Ils ont d'abord supposé qu'il était possible de garantir la sécurité lorsqu'un rendu parfait du monde extérieur est disponible. Ils ont ensuite déterminé la quantité d'erreur que le système de perception introduit dans sa recréation de l'environnement du véhicule.

La clé de cette stratégie est de quantifier les incertitudes impliquées, connues sous le nom de bande d'erreur – ou les «inconnues connues», comme l'a dit Mitra. Ce calcul vient de ce que lui et son équipe appellent un contrat de perception. En génie logiciel, un contrat est un engagement qui, pour une entrée donnée à un programme informatique, la sortie se situera dans une plage spécifiée. Déterminer cette gamme n'est pas facile. Dans quelle mesure les capteurs de la voiture sont-ils précis? Quelle quantité de brouillard, de pluie ou d'éblouissement solaire un drone peut-il tolérer? Mais si vous pouvez garder le véhicule dans une plage d'incertitude spécifiée, et si la détermination de cette plage est suffisamment précise, l'équipe de Mitra a prouvé que vous pouvez assurer sa sécurité.