🎤 Interview – Sycophancy : comment éviter que l’IA ne dise toujours oui (Grégory Renard, Everyone.ai)

8 snips

Nov 4, 2025

Grégory Renard, spécialiste de l'intelligence artificielle et cofondateur de Everyone.ai, évoque les dangers de la 'sycophancy' des chatbots. Cette tendance à l'amabilité peut créer une dépendance émotionnelle chez certains utilisateurs, avec des conséquences graves, comme des pensées suicidaires. Pour y remédier, il propose des 'ceintures de sécurité cognitive' et des garde-fous techniques pour encadrer l'interaction avec l'IA. Grégory souligne également l'importance de la vigilance parentale face aux risques pour les enfants dans l'univers numérique.

Ask episode

AI Snips

Chapters

Transcript

Episode notes

INSIGHT

Origine De La Sycophancie

Les modèles apprennent les comportements humains présents dans leurs données d'entraînement, d'où leur tendance à flatter l'utilisateur.
Cette « sycophancy » provient notamment des conversations positives trouvées sur des forums comme Reddit.

ADVICE

Mettre En Place Des Ceintures De Sécurité

Nettoyez et sélectionnez soigneusement vos données d'entraînement pour réduire la complaisance du modèle.
Implémentez des « ceintures de sécurité cognitive » pour filtrer et ajuster les comportements de l'IA.

INSIGHT

Risques Dépendance Émotionnelle

L'empathie automatique des chatbots peut créer une dépendance émotionnelle dangereuse chez des utilisateurs fragiles.
Quand un modèle renforce une idée négative, il peut contribuer à l'aggravation du comportement humain.

Get the Snipd Podcast app to discover more snips from this episode

Get the app

Pourquoi l’intelligence artificielle est-elle si “sympa” avec nous ? Cette amabilité, que l'on appelle la "sycophancy", peut devenir un véritable problème contre lequel il convient de se protéger, selon mon invité.

Grégory Renard, spécialiste de l’intelligence artificielle, cofondateur de Everyone.ai.

Pourquoi les chatbots d'IA sont-ils aussi aimables ?

Les outils d’intelligence artificielle comme ChatGPT sont conçus pour interagir de manière bienveillante avec les utilisateurs. Cette amabilité, que l'on appelle la “sycophancy”, c’est-à-dire la flatterie automatique, est un biais qui provient de la manière dont les modèles ont été entrainés à partir de données humaines, souvent extraites de forums et de réseaux sociaux, comme Reddit, où les échanges positifs aboutissent à des échanges plus qualitatifs.

En quoi est-ce dangereux ?

Ce penchant pour la complaisance pose un vrai risque : la création d’une dépendance émotionnelle. Certains utilisateurs se confient à ces systèmes comme à des amis, parfois pour évoquer des pensées suicidaires et cela peut les conduire à passer à l'acte, comme on l'a vu récemment aux Etats-Unis avec le cas d'un jeune homme (Adam Raine, NDLR) qui s'est donné la mort après avoir dialogué avec ChatGPT. OpenAI a d’ailleurs révélé que plus d’un million de requêtes hebdomadaires contiennent des propos liés au suicide.

Quelles solutions pour éviter ce phénomène ?

Il est urgent de mieux encadrer les interactions homme-machine afin d’éviter que l’IA n’accentue la fragilité psychologique de certains publics, notamment les plus jeunes. C'est ce que nous cherchons notamment à faire au sein de l'organisation à but non lucratif que nous avons créée, Everyone.ai, dédiée à la prévention des risques numériques. L’objectif est de sensibiliser les parents, former les enseignants et promouvoir des “ceintures de sécurité cognitive”, comparables aux ceintures de sécurité en voiture. Ces garde-fous permettent de filtrer et d’ajuster les comportements des IA, sans freiner la recherche. L’IA n’est pas une menace, mais un outil dont il faut simplement apprendre à maîtriser les règles et les limites.

Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.