Regarder Assurer la sécurité de l'IA/ML dans les systèmes embarqués

L'IA dans les systèmes embarqués : sûre, intelligente et prête pour le monde réel

L'IA et le ML révolutionnent les secteurs critiques pour la sécurité, comme l'automobile, la santé et l'aérospatiale. Ces technologies offrent une autonomie et une efficacité remarquables, mais leur intégration dans des systèmes embarqués aux ressources limitées, où la prévisibilité, la précision et la sécurité sont essentielles, peut représenter un défi de taille.

Pour atténuer ces défis, il est essentiel de mettre en œuvre des stratégies telles que l’élagage des modèles, le gel des modèles, de nombreux tests et le respect rigoureux des normes de sécurité fonctionnelle telles que ISO 26262, IEC 62304 et d’autres normes de sécurité complémentaires.

À retenir

• L’adoption de l’IA dans les systèmes embarqués se produit maintenant, et non dans un avenir lointain.
• La sécurité, la prévisibilité et la conformité sont les principaux obstacles auxquels les développeurs sont confrontés.
• Le matériel spécialisé comme les NPU et les TPU de pointe change ce qui est possible dans les systèmes embarqués.
• Des techniques telles que l’élagage des modèles, la quantification et le gel permettent d’intégrer l’IA dans les systèmes embarqués.
• Assurer la sécurité lors de l’utilisation de l’IA nécessite des garde-fous, une traçabilité et de nombreux tests.

Pourquoi l'IA transforme les systèmes embarqués

L'IA rend tout plus intelligent. Il y a dix ans, votre montre comptait vos pas. Aujourd'hui, elle mesure votre rythme cardiaque, détecte les arythmies et sait si vous courez, nagez ou dormez. Les entreprises intègrent l'IA dans les dispositifs médicaux, les voitures, les systèmes énergétiques, etc. Des taxis autonomes encore plus intelligents font leur apparition dans certaines villes.

Mais l'IA d'un tracker d'activité n'a rien à voir avec les modèles géants qui équipent des outils comme ChatGPT. L'IA embarquée consiste à intégrer l'intelligence dans des gadgets avec des contraintes strictes en termes d'espace, de puissance et de puissance de calcul. Ce n'est pas une simple tendance : d'ici 2030, on prévoit que 70 % des systèmes embarqués seront dotés d'IA. Le défi : exploiter tous les avantages de l'IA sans exploser le budget (ni tout détruire).

Gros problèmes : sécurité, sûreté, dimensionnement et matériel

Sécurité et conformité : les incontournables

Dans les environnements critiques pour la sécurité, un léger retard ou une imprévisibilité peut être catastrophique. L'assistant de freinage piloté par l'IA d'une voiture ne peut pas prendre de pause-café, et une milliseconde perdue peut coûter des vies. Malheureusement, les modèles d'IA sont non déterministes : ils donnent généralement des réponses différentes pour une même donnée, ce qui n'est pas acceptable dans des secteurs réglementés comme l'automobile ou l'aérospatiale.

La sécurité constitue un autre problème. Manipuler les entrées pour tromper une IA – comme coller un autocollant sur un panneau stop – peut tromper un modèle, avec des dangers réels.

Questions matérielles

Certaines puces sont plus performantes que d'autres pour exécuter l'IA en périphérie. Les NPU et les TPU embarqués ouvrent la voie à l'IA embarquée : pensez plus rapide, moins cher et moins gourmand en énergie.

Adapter les modèles : élagage et quantification

Les grands réseaux neuronaux sont pratiques, mais essayez d'en intégrer un dans un appareil minuscule sans manquer de mémoire ni vider la batterie. Deux solutions pour une gestion efficace :

1. Taille: Après l'entraînement, supprimez les neurones et les connexions qui ne servent quasiment à rien. Les modèles élagués sont plus petits, plus rapides et consomment moins d'énergie. Exemple : le rover martien de la NASA a utilisé un modèle élagué pour accélérer de 30 % la vitesse de son matériel limité.
2. Quantification: Convertissez le modèle de virgule flottante 32 bits en 16 bits, 8 bits ou même 4 bits pour réduire la taille, réduire la charge de calcul, l'utilisation de la mémoire et la consommation d'énergie.

Gel du modèle et prévisibilité

Une fois qu’un modèle d’IA est formé, testé et passe tous les contrôles, il est « gelé ».

• Fini les ajustements de dernière minute.
• Chaque voiture, avion ou appareil médical se comportera de la même manière dans la même situation.
• Les régulateurs aiment ça parce qu’ils savent ce qui va se passer ensuite.

Les grandes entreprises comme Tesla verrouillent leurs modèles pour que les voitures n'inventent pas de nouveaux mouvements à la volée et ne se retrouvent pas en difficulté.

Risques, normes et garde-fous

Rendre un système d'IA sûr ne consiste pas à éliminer tous les risques, mais à les gérer. Réfléchissez :

• Vérification formelle : Prouvez que votre IA ne deviendra pas rebelle.
• Simulateurs : Exécutez des millions de scénarios avant que quoi que ce soit ne soit mis en œuvre (idéalement, littéralement).
• Redondance: Ayez des clones ou des IA de secours qui surveillent les arrières des autres.
• Garde-corps : Des règles codées en dur qui maintiennent l'IA dans des limites définies (comme ne pas laisser une voiture dépasser une limite de vitesse, quelle que soit la confiance du modèle quant à son bon fonctionnement).

Vous devez prouver votre dossier de sécurité avec de la documentation, avec des normes telles que ISO 26262 pour l’automobile, IEC 62304 pour le médical ou de nouvelles directives comme ISO 8800 (pour l’IA automobile).

Tests, traçabilité et explicabilité

Vous devez encore tester minutieusement le système :

• Analyse statique et dynamique détecter les défauts fonctionnels tout au long du SDLC.
• Couverture du code : Assurez-vous que vos cas de test ont testé chaque ligne de code.
• Traçabilité: Liez chaque exigence, documentez chaque changement, collectez chaque résultat de test afin de pouvoir montrer aux régulateurs une piste d'audit.
• IA explicable (XAI) : Des outils comme SHAP ou LIME aident à déboguer et à expliquer pourquoi l’IA a passé un appel, révélant ainsi sa nature de boîte noire.

Quelle est la prochaine étape pour l’IA embarquée ?

L’avenir de l’IA dans les systèmes embarqués évolue rapidement :

• Apprentissage sur appareil : Pas de cloud, pas de délais : plus intelligent, local et privé.
• Le matériel continue de diminuer : Les puces à l’échelle nanométrique signifient plus de cerveaux dans moins d’espace.
• Meilleure confidentialité et sécurité : Avec des techniques comme l’apprentissage fédéré et les outils d’IA pour contrer les cyberattaques de nouvelle génération.
• L'IA aide les ingénieurs à créer une meilleure IA : Plus besoin de regarder les bugs de code pendant des heures : l’IA peut proposer des correctifs.

Wrap-Up

L'IA transforme les capacités des systèmes embarqués, mais soulève de nombreuses questions de sécurité et de conformité. Heureusement, l'élagage, la quantification, le matériel spécialisé, l'IA explicable et des normes de test et de réglementation strictes permettent de créer des systèmes sûrs et certifiables qui font de l'utilisation de l'IA une réalité dans le monde embarqué. L'avenir s'annonce chargé et prometteur.