📋 TABLE DES MATIÈRES -
Introduction
Au niveau 3 de la classification SAE, la responsabilité passe du conducteur à la machine. Et personne n’a encore clairement établi qui doit payer lorsqu’un véhicule de niveau 3 provoque un accident. Cette simple phrase résume pourquoi la conduite autonome n’est pas seulement un défi technique. Il s’agit d’un problème à la fois de sécurité, de droit et de cybersécurité, qui incombe directement à chaque constructeur automobile, fournisseur de premier rang et opérateur de mobilité en Europe.
La promesse est bien réelle. Environ 94 % des accidents de la route sont dus à une erreur humaine ; en théorie, retirer l'humain de la boucle devrait donc sauver des vies. Mais un véhicule autonome ne « voit » pas la route. Il exécute une série de modèles statistiques qui déduisent, à partir des données des caméras, du lidar et du radar, ce qui justifie un freinage et ce qu'il faut ignorer. Lorsque ces modèles sont erronés, opaques ou manipulables, le gain de sécurité s'évapore. Ce guide explique comment une IA souveraine, explicable et résiliente sécurise réellement la conduite autonome en 2026, et comment elle s'inscrit dans le cadre plus large de l'évaluation des risques liés à l'IA et de l'IA adverse.
Nous aborderons les six niveaux SAE et la répartition des responsabilités, le cadre réglementaire qui régit désormais l'IA embarquée (y compris la norme ISO/PAS 8800 et la loi européenne sur l'IA), les trois piliers techniques qui garantissent la fiabilité d'une architecture autonome, ainsi qu'une méthode pratique pour démontrer la sécurité avant même qu'un organisme de réglementation ou un assureur ne vous le demande.
⚡ OÙ EN SOMMES-NOUS, 2026
Mercedes-Benz et Honda ont toutes deux homologué des systèmes de niveau 3 selon la classification SAE pour la conduite automatisée conditionnelle dans des domaines d'exploitation définis. Cette avancée est importante car il s'agit de la première étape où, légalement, c'est le véhicule, et non l'humain, qui est considéré comme le conducteur lorsque le système est activé. Chaque constructeur automobile souhaitant obtenir cette certification doit désormais prouver non seulement que l’IA fonctionne, mais aussi que ses décisions sont explicables, vérifiables et résistantes à toute manipulation. Il s’agit là de la même charge de la preuve imposée par les normes UN-R155, ISO/SAE 21434 et la nouvelle norme ISO/PAS 8800, étendue à la couche d’apprentissage automatique.
I. Vue d'ensemble : la conduite autonome et l'équation de la sécurité
1. Les 6 niveaux SAE d'automatisation de la conduite
La norme SAE J3016 définit six niveaux d'automatisation de la conduite, allant de 0 à 5. La distinction la plus importante en matière de cybersécurité et de responsabilité est le passage du niveau 2 au niveau 3, car c'est à ce stade que l'humain cesse d'être le « plan de secours » et que le système devient responsable de la conduite dans le cadre de son domaine de conception opérationnel.
En dessous du niveau 3, un accident relève de la responsabilité du conducteur. À partir du niveau 3, il relève de la responsabilité du constructeur et, par extension, remet en cause l'intégrité de la pile d'IA. C'est précisément à ce moment-là que la cybersécurité cesse d'être une préoccupation informatique pour devenir une obligation en matière de sécurité des produits.
2. Pourquoi la sécurité de l'IA est une nouvelle discipline (ISO/PAS 8800)
La sécurité automobile classique, régie par la norme ISO 26262, repose sur des systèmes déterministes : un contrôleur de freinage se comporte toujours de la même manière, et il est possible de le tester de manière exhaustive. Un modèle de perception ne fonctionne pas ainsi. Il s’agit d’une fonction probabiliste entraînée à partir de données, et il peut présenter des défaillances face à des entrées qu’aucun ingénieur n’avait anticipées. L'industrie a créé une norme spécifique pour combler précisément cette lacune, la norme ISO 21448 (SOTIF, Safety Of The Intended Functionality), afin de traiter les dangers qui surviennent même lorsque rien n'est techniquement défectueux.
En 2023, le secteur a franchi une nouvelle étape avec ISO/PAS 8800 (Véhicules routiers, sécurité et intelligence artificielle), qui est désormais la norme de référence pour les systèmes d’apprentissage automatique embarqués dans les véhicules. Alors que la norme ISO 26262 porte sur la sécurité fonctionnelle et que la norme ISO 21448 traite de l’écart par rapport aux fonctionnalités prévues, la norme ISO/PAS 8800 aborde l’IA elle-même : le cycle de vie de sécurité d’un modèle d’apprentissage automatique embarqué, ses exigences en matière de données, ses objectifs de performance et de robustesse, ainsi que les preuves nécessaires pour démontrer sa sécurité. Pour tout constructeur automobile déployant des systèmes de perception ou de prise de décision basés sur l’IA, la norme ISO/PAS 8800 n’est plus une lecture facultative. Il s’agit du cadre que tout service technique s’attendra à ce que vous ayez appliqué. Ensemble, ces quatre textes constituent le cadre réglementaire de l’IA autonome.
Trois propriétés distinguent une pile autonome fiable d'une pile dangereuse. Elle doit être explicable, pour qu'un humain ou un auditeur puisse comprendre pourquoi elle a freiné ou dévié. Elle doit être validée à grande échelle, car on ne peut pas parcourir un milliard de kilomètres réels pour prouver qu'un cas limite est géré. Et elle doit être robuste, car un adversaire capable de manipuler l'entrée d'un capteur peut inverser une décision. Ces trois propriétés correspondent directement aux trois piliers de la deuxième partie. explicable, afin qu'un humain ou un auditeur puisse comprendre pourquoi il a freiné ou dévié. Il doit être validé à grande échelle, puisque vous ne pouvez pas parcourir un milliard de kilomètres physiques pour prouver qu'un cas extrême est géré. Et il doit être robuste, car un adversaire qui peut manipuler une entrée de capteur peut inverser une décision. Celles-ci correspondent directement aux trois piliers de la deuxième partie.
3. La loi sur l'IA de l'UE et les ADAS à haut risque
La pile réglementaire ne s'arrête pas aux normes automobiles. Le règlement UE sur l'IA (règlement 2024/1689) s'ajoute désormais par-dessus, et il traite les systèmes d'IA utilisés comme composants de sécurité des véhicules comme haut risque. Un système de perception ADAS ou de conduite autonome n'est pas une fonctionnalité périphérique aux yeux de la Loi. C'est précisément le genre de système que la réglementation a été écrite pour régir.
⚖ LES IMPLICATIONS DE LA LOI DE L'UE SUR L'IA POUR LES SYSTÈMES ADAS ET LES SYSTÈMES AUTONOMES
Les systèmes d'IA qui agissent comme composants de sécurité de produits réglementés, ce qui inclut les fonctions ADAS et de conduite automatisée, relèvent du régime à haut risque de l'AI Act (article 6 et annexe III / logique produit de l'annexe I). Cette classification entraîne trois conséquences que les constructeurs et leurs fournisseurs doivent anticiper :
- Obligations de robustesse et de cybersécurité (article 15) : une IA à haut risque doit atteindre un niveau approprié de précision, de robustesse et de cybersécurité, et doit résister aux tentatives de modification de son usage ou de son comportement par manipulation adverse. C'est une exigence légale, pas une bonne pratique. une IA à haut risque doit atteindre un niveau approprié de précision, de robustesse et de cybersécurité, et doit résister aux tentatives de modification de son usage ou de son comportement par manipulation adverse. C'est une exigence légale, pas une bonne pratique.
- Conformité avant la mise sur le marché : Le système doit démontrer sa conformité avant d'être mis sur le marché, avec une documentation technique, une gestion des risques et des mesures de surveillance humaine en place. La mise en conformité a posteriori n'est pas une option.
- Convergence avec le droit automobile : La loi sur l'IA s'ajoute à la norme UN-R155, à l'ISO 21434 et à l'ISO/PAS 8800 plutôt que de les remplacer. Le même modèle de perception doit satisfaire à toutes ces exigences simultanément.
En pratique, l'exigence de robustesse de l'article 15 est le point de rencontre entre l'AI Act et la cybersécurité adverse. Prouver que votre modèle ADAS résiste à la manipulation adverse est désormais à la fois une tâche d'ingénierie et une obligation réglementaire.
II. Les trois piliers de la sécurité de la conduite autonome
1. IA Explicable (XAI) pour les Décisions Critiques
Lorsqu'un véhicule est le conducteur légal, « le modèle a décidé » n'est pas une réponse acceptable pour un régulateur ou un tribunal. L'IA explicable transforme une décision de perception opaque en une décision auditable. Des techniques comme les cartes de saillance, les valeurs SHAP et l'analyse contrefactuelle permettent à un ingénieur de reconstituer pourquoi le système a classé une ombre comme un piéton, ou pourquoi il ne l'a pas fait. Ce n'est pas de la théorie. C'est la différence entre un rapport d'incident défendable et une responsabilité sans plafond.
Ce que l'IA explicable apporte concrètement
- Traçabilité des décisions pour chaque sortie critique pour la sécurité, enregistrée et reconstituable a posteriori.
- Détection des biais et des angles morts, par exemple un modèle de perception sous-performant sous la pluie ou sur des marquages routiers non standard.
- Preuves d'homologation. L'UN-R155, l'ISO 21448 et l'ISO/PAS 8800 attendent un comportement documenté et justifiable, pas seulement des taux de réussite aux tests.
🇪🇺SOUVERAINETÉ EUROPÉENNE : POURQUOI L'ORIGINE DU MODÈLE COMPTE
Un constructeur européen qui s'appuie sur un modèle étranger opaque ne peut ni l'auditer ni le défendre pleinement. Lorsque la pile de perception est une boîte noire contrôlée hors de la juridiction européenne, trois choses deviennent impossibles : prouver à un régulateur pourquoi une décision a été prise, garantir que les données d'entraînement et le comportement du modèle respectent les normes européennes, et conserver sous son propre contrôle la chaîne de preuves en cas d'incident lorsqu'un tribunal la réclame.
L'IA souveraine et explicable n'est pas un slogan. C'est la différence entre un constructeur qui maîtrise son dossier de sécurité et un autre qui l'a externalisé à un fournisseur qui ne peut pas, ou ne veut pas, ouvrir la boîte. Pour les constructeurs européens en concurrence avec des piles non européennes, l'auditabilité n'est pas une contrainte. C'est un facteur de différenciation, et de plus en plus une exigence légale au titre de l'AI Act.
2. Simulation : CARLA, SUMO et le problème du milliard de kilomètres
Pour prouver statistiquement qu'un système autonome est plus sûr qu'un humain, il faudrait parcourir des centaines de millions de kilomètres en capturant des événements rares. Aucune flotte ne peut le faire sur la voie publique dans un délai ou un budget raisonnable. La simulation résout ce problème. Les frameworks ouverts tels que CARLA (simulation photoréaliste au niveau du capteur) et SUMO (modélisation de flux de trafic à grande échelle) permettent aux ingénieurs de générer et de rejouer des millions de cas limites à la demande : un enfant qui sort entre des voitures garées, un camion qui perd son chargement, l'éblouissement des capteurs au coucher du soleil, un cycliste qui grille un feu rouge.
⚠ LE PROBLÈME DES CAS LIMITES
La plupart des défaillances autonomes ne sont pas causées par des situations courantes. Elles sont causées par la longue traîne de situations rares que le modèle n'a jamais rencontrées pendant l'entraînement. La simulation est le seul moyen économiquement viable de fabriquer délibérément cette longue traîne, de tester contre elle et de documenter la couverture pour le dossier de certification. Un scénario qui ne se produit jamais dans votre flotte de test doit quand même être géré, et la simulation est la façon de le prouver.
La simulation sous-tend également la validation continue. Chaque fois qu'un modèle est réentraîné, la bibliothèque de scénarios complète peut être rejouée automatiquement pour confirmer qu'aucune régression n'a été introduite. C'est l'équivalent dans le domaine automobile d'une suite de tests, mise à l'échelle pour la physique et la perception.
3. Robustesse adverse : l'angle NCI
C'est là que Neo Coeur Intelligence trace la ligne qui la distingue. L'explicabilité et la simulation sont nécessaires, mais elles supposent que les entrées du modèle sont honnêtes. Dans le monde réel, elles ne le sont pas. Un véhicule autonome fusionne les données des caméras, du lidar et du radar précisément pour que, si un capteur est dégradé, les autres compensent. Cette fusion est aussi une surface d'attaque, et la sécuriser relève de la cybersécurité, pas de l'assurance qualité. L'article 15 de l'AI Act en fait désormais une obligation légale.
Cinq vecteurs d'attaque comptent pour l'IA embarquée, et chacun correspond à une technique documentée du champ plus large de la sécurité de l'IA. Les tester tous les cinq, avant l'homologation, est le cœur d'un dossier de robustesse défendable.
La même méthodologie de « red teaming » utilisée pour tester les modèles d'entreprise, décrite dans notre guide consacré à Évaluation des risques de l'IA, s'applique directement aux systèmes de perception des systèmes d'aide à la conduite avancés (ADAS) : attaques FGSM et PGD visant le modèle de vision, scénarios de falsification des capteurs et limites de robustesse mesurées avant, et non après, un rappel coûteux. Pour mieux comprendre pourquoi la réglementation automobile actuelle ne précise toujours pas suffisamment ces exigences relatives à la couche d'IA, consultez notre analyse de la lacunes réglementaires en matière de sécurité de l'IA dans le secteur automobile.
✓ POURQUOI LES TESTS DE ROBUSTESSE SONT-ILS RENTABLES ?
Un rappel automobile lié au logiciel peut coûter jusqu'à 1,5 milliard de dollars. Tester la robustesse d'une pile de perception ADAS face aux cinq vecteurs adverses ci-dessus, avant l'homologation, ne représente qu'une fraction de ce montant. Le calcul économique est sans détour : prouver la résilience maintenant, en simulation et par red teaming, ou découvrir la faille plus tard sur le terrain, après le rappel et la sanction au titre de l'AI Act.
III. Une méthode d'assurance de la sécurité en 3 étapes
Rendre une pile autonome défendable est un processus reproductible, pas un audit ponctuel. Les trois étapes ci-dessous transforment les piliers ci-dessus en livrables qu'un service technique ou un assureur acceptera.
Instrumenter la pile pour l'explicabilité
Ajouter la saillance, le SHAP et la journalisation contrefactuelle à chaque résultat de perception et de décision critique pour la sécurité, afin que chaque action puisse être reconstituée et justifiée a posteriori.
Sans cette étape, aucun incident ne peut faire l'objet d'une enquête en bonne et due forme et aucun dossier d'homologation n'est complet. L'explicabilité est le fondement sur lequel repose tout le reste, et la norme de référence ISO/PAS 8800 l'exige.
Valider à l'échelle en simulation
Constituez une bibliothèque de scénarios dans CARLA et SUMO couvrant le domaine de conception opérationnelle ainsi que l'ensemble des cas limites, puis relancez-la à chaque nouvelle version du modèle afin de vérifier l'absence de régression.
Le résultat est un rapport de couverture documenté : quels scénarios ont été testés, avec quel niveau de fidélité et quel taux de réussite. C'est cette preuve qui remplace le milliard de kilomètres réels impossibles à parcourir.
Soumettre la couche de perception à un red teaming
Exécuter les cinq vecteurs d'attaque adverses et d'usurpation de capteurs sur la pile de perception fusionnée, quantifier les limites de robustesse et réinjecter les résultats dans la logique d'entraînement et de contrôle.
Le livrable est une évaluation de robustesse, avec des taux de réussite d'attaque mesurés et des seuils de perturbation minimaux, prête à accompagner la TARA et à répondre à l'exigence de l'article 15 de l'AI Act, dans le dossier de certification décrit dans notre Guide UN-R155 et ISO/SAE 21434.
IV. Conclusion
La conduite autonome ne sera pas remportée par le constructeur qui présentera la démonstration la plus spectaculaire. Elle sera remportée par celui qui pourra prouver, devant un régulateur et un assureur, que son IA est explicable, validée et robuste. Ces trois propriétés transforment un risque lié à la responsabilité de niveau 3, auparavant ouvert, en un risque géré, et ce sont exactement les propriétés qu'exigent désormais l'ISO/PAS 8800, le règlement ONU R155 et le règlement européen sur l'IA.
L'avantage européen est réel, à condition de s'en servir. Une IA souveraine, explicable et résiliente garde la piste d'audit, les données et la logique de décision dans la juridiction européenne, ce qui correspond précisément à ce qu'exigent de plus en plus le régime de robustesse de l'article 15 de l'AI Act et les normes automobiles. Les constructeurs qui traitent l'assurance de la sécurité, et la robustesse adverse en particulier, comme une discipline d'ingénierie continue plutôt que comme une case à cocher d'homologation atteindront le marché plus vite et défendront leur position quand un incident viendra inévitablement l'éprouver.
La question n'est plus de savoir si les véhicules autonomes arrivent. La question est de savoir si votre pile d'IA peut survivre à l'examen qu'ils entraînent.
Prouvez votre pile autonome avant que la route ne le fasse
Neo Coeur Intelligence conduit des preuves de concept mobilité qui mettent à l'épreuve votre IA de perception et de décision : instrumentation de l'explicabilité, couverture de simulation et red teaming adverse, en cohérence avec l'ISO/PAS 8800, l'UN-R155 et l'article 15 de l'AI Act.
Trouvez vos failles de sécurité en simulation, pas sur le terrain.
📧 contact@neocoeurintelligence.com
→ Prendre rendez-vous Demande de preuve de concept (PoC) mobilitéV. Foire aux questions
Quels sont les niveaux SAE de conduite autonome ?
La norme SAE J3016 définit six niveaux, allant de 0 (aucune automatisation) à 5 (automatisation totale). Aux niveaux 0 à 2, la responsabilité de la conduite incombe à l'humain. Au niveau 3, le système devient le conducteur dans son domaine d'intervention et l'humain n'a plus qu'à reprendre le contrôle sur demande. Les niveaux 4 et 5 ne nécessitent aucune intervention humaine dans leur domaine d'intervention. Le seuil critique est le niveau 3, où la responsabilité légale passe du conducteur au constructeur.
Qu'est-ce que la norme ISO/PAS 8800 ?
La norme ISO/PAS 8800 (2023) est la norme de référence pour l'apprentissage automatique et l'intelligence artificielle dans les véhicules routiers. Elle complète l'ISO 26262 (sécurité fonctionnelle) et l'ISO 21448 (SOTIF) en traitant le modèle d'IA lui-même : son cycle de vie de sécurité, ses exigences en matière de données et ses objectifs de robustesse. Pour tout constructeur déployant de la perception ou de la prise de décision pilotées par l'IA, c'est le cadre qu'un service technique s'attend désormais à voir appliqué.
Les systèmes ADAS et de conduite autonome présentent-ils un risque élevé au regard de la loi européenne sur l'IA ?
Oui. Les systèmes d'IA agissant en tant que composants de sécurité des véhicules relèvent du régime à haut risque du règlement européen sur l'IA. Cela déclenche les obligations de l'article 15 concernant la précision, la robustesse et la cybersécurité, y compris la résilience à la manipulation adversaire, ainsi que l'évaluation de la conformité avant la mise sur le marché. Le règlement sur l'IA s'ajoute au R155 de l'ONU, à l'ISO 21434 et à l'ISO/PAS 8800 plutôt que de les remplacer.
Les véhicules autonomes peuvent-ils être piratés par leurs capteurs ?
Oui. Les attaques adverses peuvent manipuler la perception via cinq vecteurs principaux : les exemples adverses (FGSM/PGD), l'empoisonnement des données, l'inversion de modèle, l'injection de prompts sur les interfaces LLM in-cabin, et l'usurpation de capteurs. Des autocollants sur un panneau stop peuvent amener un modèle de vision à le mal interpréter, et des retours lidar usurpés peuvent créer des obstacles fantômes. C'est pourquoi les tests de robustesse adverse doivent faire partie du processus de sécurité, quantifiés avant l'homologation.
Qui est responsable si un véhicule autonome de niveau 3 cause un accident ?
Aux niveaux SAE 3 et supérieurs, la responsabilité passe généralement du conducteur au constructeur pendant que le système est actif, car le véhicule est légalement le conducteur. La répartition précise reste à trancher selon les juridictions, et c'est précisément pourquoi des preuves documentées d'explicabilité, de validation et de robustesse comptent : c'est la défense du constructeur.
VI. Références
[1] SAE International. J3016 · Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles. 2021.
[2] ISO. ISO 21448:2022 · Road vehicles · Safety of the intended functionality (SOTIF). Genève : ISO, 2022.
[3] ISO. ISO 26262 · Road vehicles · Functional safety. Genève : ISO, 2018.
[4] ISO. ISO/PAS 8800:2024 · Véhicules routiers · Sécurité et intelligence artificielle. Genève : ISO, 2024.
[5] UNECE WP.29. Règlement ONU n° 155 · Cybersécurité et système de gestion de la cybersécurité. Adopté en mars 2021.
[6] Règlement (UE) 2024/1689 du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (Loi sur l’intelligence artificielle). JO L, 12 juillet 2024.
[7] Dosovitskiy, A. et al. CARLA : Un simulateur de conduite urbaine ouvert. CoRL 2017.
[8] Lopez, P.A. et al. Simulation de trafic microscopique à l'aide de SUMO. IEEE ITSC 2018.
[9] La corporation MITRE. MITRE ATLAS · Paysage de menaces adverses pour les systèmes d'intelligence artificielle.
[10] NHTSA. Raisons critiques des accidents étudiées dans l'enquête nationale sur les causes des accidents de véhicules automobiles. Administration nationale de la sécurité routière.
