L'IA explicable appliquée à la détection de ceintures et de téléphones au volant
Résumé
A new generation of AI-based tools is being developed to help identify road safety violations such as failure to wear a seatbelt, or use of a phone while driving. An existing regulatory framework applies to traditional speed radars, but this framework must be tailored to accommodate the unique
features of new systems, like the inability to conduct audits through testing and the involvement of humans in the enforcement of sanctions. The objective of this study is to compare the functioning and regulatory framework of classic speed radar systems with the functioning of new image recognition systems in order to identify needs for explainability of the new AI-based systems. Our conclusions in this use case can be generalized to other “smart video” use cases where images are proposed to human operators.
Une nouvelle génération de dispositifs de détection d'infractions routières à base d'IA pour le contrôle du port de la ceinture, ou du téléphone au volant, est en cours de développement. Ces systèmes s'appuient sur des réseaux de neurones profonds pour classifier des images d'éventuelles infractions et envoyer la décision de l'algorithme à un opérateur humain pour vérification. Un cadre réglementaire existe pour les radars d'excès de vitesse classiques mais ce cadre doit être aménagé pour s'adapter aux particularités des nouveaux systèmes, notamment l'impossibilité d'un audit par essais et l'introduction de l'humain dans la boucle de contrôle des sanctions. L'objectif de cette étude est de comparer le fonctionnement et l'encadrement des radars classiques avec le fonctionnement des nouveaux systèmes, afin d'identifier les besoins en explicabilité de ces dispositifs à base d'IA. Nos conclusions pour ce cas d'usage peuvent s'appliquer à d'autres cas d'usages où des images sont proposées à des opérateurs humains, tels que les systèmes de vidéo intelligente.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|
