DataGen #250 - Malt : Mettre en place une approche MLOps et LLMOps
41 snips
Feb 2, 2026 
Nicolas Mauti, Staff MLOps Engineer chez Malt, pionnier MLOps ayant structuré l’approche et supervisé l’adaptation aux IA génératives. Il parle de la centralisation des features, de la refonte des pipelines ML et CI/CD, du monitoring 360° et de l’impact des IA génératives. Discussion sur le premier projet LLMOps, tests pour LLMs, stratégies de fallback et l’acculturation des équipes.
AI Snips
Chapters
Transcript
Episode notes
Décorréler Entraînement Et Données
- Découplez entraînement des modèles et calcul des données d'inférence pour gagner en flexibilité.
- Orchestrer les calculs (Airflow) et la CI/CD (GitLab) garantit des déploiements cohérents et testés.
Prioriser Le Monitoring Par Impact
- Priorisez le monitoring par étapes: commencez par métriques business, puis métriques modèle, enfin métriques features.
- Cette approche détecte tôt les problèmes et évite des ré-entraînements coûteux sur de mauvaises données.
L'Impact Des LLM Sur La Roadmap
- L'arrivée de ChatGPT/GPT‑3 a rebattu les cartes en 2022 et a poussé Malt à investir massivement en GenAI.
- Les besoins ont basculé vers des usages produit et d'efficacité interne nécessitant une nouvelle organisation MLOps.