Just a Click L'intelligence artificielle au service de la modération de contenus, Carmen Valtierra de Luis
Jun 4, 2025
Carmen Valtierra de Luis, Head of Product chez Bodyguard, une solution innovante en modération de contenus, partage comment son équipe s'adapte aux défis posés par l'IA générative. Elle discute des impacts des modèles de langage sur la modération et des approches hybrides combinant expertise humaine et technologie. Carmen aborde également l'importance d'une innovation équilibrée, reliant les besoins des utilisateurs et l'expérimentation. Elle souligne enfin les défis futurs dans la gestion de la toxicité en ligne.
AI Snips
Chapters
Transcript
Episode notes
Importance du contexte en modération
- La modération intelligente nécessite la compréhension du contexte et ne peut se baser uniquement sur des règles ou mots clés.
- Le NLP permet cette personnalisation selon l'environnement, par opposition à une modération générique et aveugle.
Différence déterminisme et LLM
- La technologie NLP est déterministe, assurant traçabilité et stabilité dans la modération.
- Les LLM sont probabilistes, ce qui crée des variations et un effet "black box" parfois inacceptable en modération de toxicité.
Clarifier son positionnement IA
- Ne pas utiliser abusivement le terme "IA" pour différencier clairement son produit dans un marché saturé.
- Positionnez-vous précisément pour valoriser votre expertise et histoire en IA avant la mode LLM.