Le monde de la cyber #29 Sécuriser l'IA : le défi du siècle - avec Marie Paindavoine
11 snips
Sep 30, 2025 Marie Paindavoine, fondatrice de Skyld et spécialiste de la sécurité des intelligences artificielles, explore les défis de la protection de l'IA. Elle aborde les risques de vol d'algorithmes et d'attaques adversariales, tout en insistant sur l'importance d'intégrer la cybersécurité dès la conception des technologies. Marie discute également des enjeux médicaux liés à l'IA, des impacts éthiques et de la nécessité de régulations pour protéger la société. Un éclairage passionnant sur un sujet crucial de notre époque.
AI Snips
Chapters
Transcript
Episode notes
Erreur De Panneau Réelle
- Marie partage une erreur de reconnaissance de panneaux sur sa voiture comme exemple concret.
- Elle souligne le risque majeur quand ces systèmes devront piloter des véhicules autonomes.
Modèles Embarqués Dévoilent Tout
- On peut extraire un modèle embarqué et l'analyser comme un logiciel classique.
- Cette visibilité facilite la copie commerciale et la fabrication d'exemples adversariaux ciblés.
Frontières Exploitables Des Modèles
- Les IA ont des frontières de décision exploitables pour créer des exemples adversariaux.
- Connaître les paramètres d'un modèle rend trivial le basculement d'une prédiction d'un côté à l'autre.