Le Mila organise un grand hackathon pancanadien pour développer des garde-fous destinés aux robots conversationnels, en particulier ceux qui pourraient être utilisés dans un contexte de soutien psychologique chez les jeunes. Avec Jeunesse J’écoute et Bell, l’objectif est de mieux détecter les situations de détresse, d’identifier les signaux de risque et de transférer rapidement les cas graves vers des intervenants humains.
En entrevue, Simona Gandrabur, Responsable du Studio de Sécurité de l'IA de Mila, explique que le défi consiste à créer des “casques bleus” de l’IA, de petits modèles capables de surveiller les entrées et les réponses d’un robot conversationnel pour éviter les dérives. Le hackathon doit aussi produire un riche jeu de données synthétiques reflétant la diversité des réalités vécues par les jeunes au Canada. À terme, l’idée est d’offrir gratuitement à Jeunesse J’écoute des outils concrets pour sécuriser son futur robot conversationnel.
Détails : https://luma.com/mo2ftcpb
