I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle

Ça y est! Corne de brume! Nous sommes de retour. Bienvenue à votre saison #3 d’IA café. Épisode 42. L’épisode de la «réponse ultime» (ou pas)! Avec mes collaborateurs et collaboratrices (Ève Gaumond, Sylvain Munger et Maxime Heuillet), nous mettons la table pour cette saison 3, explorons les thèmes à venir, discutons des événements en IA qui ont attirés notre attention, et partageons nos ambitions et projets d'automne.Et au passage, quelques discussions passionnantes sur nos sujets préférés:Dall-e et Midjourney - banc d'essaiJustice, démocratie et expression en ligneDu lien social entre la communauté de chercheurs en IA et la population en généraleAristocratie et entrepreneuriat - Rêve, imagerie et pouvoirWorkshop - Utilisation de techniques de NLP pour traduire le sens caché et cryptique des plumitifs (résumé sommaires de décisions judiciaires)De pertinence de la question de la singularité et de la naissance potentielle d'une IA générale menaçante (ou enthousiasmante) Guide de survie pour étudiantes et étudiants français qui aimeraient étudier en IA au Québec ou en Amérique (de l'autre côté de la Grande Flaque)Du rôle de l'IA dans l'intox, dans la construction des discours conspirationnistes et dans la radicalisation du discours sur les réseaux sociauxNeurIps 2022 -  Conference on Neural Information Processing Systems Et encore plus !Bonne écoute.Production et animation: Jean-François Sénéchal, Ph.DInvités: Ève Gaumond, Sylvain Munger, Maxime HeuilletCollaborateurs: David Beauchemin, Fredérick Plamondon, Shirley Plumerand.Support the show

Dernier épisode de la saison 2! Déjà. Triste, non?Dans cet épisode, avec mes collaborateurs (Ève et Sylvain), nous partageons quelques événements, articles, ouvrages, conférences, rencontres qui ont marqué notre printemps 2022 de recherche sur les enjeux éthiques et sociaux en IA. En bonus, nous vous faisons quelques recommandations de lectures et de divertissements pour nourrir, peut-être avec un peu plus de légèreté et de soleil d'été, votre passion pour l'intelligence artificielle. On se reverra en septembre. D'ici là, reposez-vous bien, et bonnes vacances!Production et animation: Jean-François Sénéchal, Ph.DInvités: Ève Gaumond, Sylvain MungerCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Mentions dans ce podcast:La semaine sur la conduite responsable en recherche de l'Université LavalLe podcast La science dont vous êtes le héros de Jean-François Sénéchal, en collaboration avec le Vice-Rectorat à la recherche, à la création et à l'innovation de l'Université LavalJean-François Sénéchal, Évaluer les étudiants comme dans un jeu vidéo , La conversation Canada, 28 avril 2021.Carbone & Silicium de Mathieu Bablet Devs d'Alex GarlandDall-e d’Open AI et d'autres mentions d'Ève et Sylvain dont j'attends encore les références! LOL!Support the show

Dans cet épisode d’IA Café, nous recevons la sociologue et philosophe (de terrain): Allison Marchildon. Avec elle, nous parlons de la place de l'éthique appliquée dans la réflexion, la formation et la recherche en intelligence artificielle.Au programme: D'une sociologue en philosophieDe la philosophie de terrain (field philosophy) comme champ académiqueDe la compétence en éthique (générale)De la compétence éthique en IADu cycle des technologies, des enjeux éthiques et du retour du même De la grille de réflexivité sur les enjeux éthiques des systèmes d’intelligence artificielleDu rôle de l’éthique et de la recherche en éthique en IA. Bonne écoute!Référence principale:- Allison Marchildon, Steve jacob, Aude-Marie Marcoux, Grille de réflexivité portant sur les enjeux éthiques des systèmes d'intelligence artificielle (SIA) · Publié le 19 octobre 2021 dans Actualités, Outils.Production et animation: Jean-François Sénéchal, Ph.DInvitée: Allison MarchildonCollaborateurs: David Beauchemin, Ève Gaumond, Frédérick Plamondon, Sylvain Munger, Shirley Plumerand.Support the show

Dans cet épisode, nous recevons Maxime Colleret. Avec lui, nous revenons sur le rapport qu'il a coécrit, avec son collègue et directeur de recherche Yves Gingras, et qui est intitulé: L'intelligence artificielle au Québec : un réseau tricoté serré. Nous explorerons également les principales idées publiées dans un autre article, coécrit avec son collègue Mahdi Khelfaoui, et intitulé: D'une révolution avortée à une autre? Les politiques québécoises en nanotechnologies et en IA au prisme de l'économie de la promesse. Au programme:D’un réseau (tissé serré) en IAAnalyse sociologique du réseau, des principaux acteurs et des bailleurs de fonds en IA au QuébecDes potentiels conflits de rôles, conflits d’intérêts et problèmes d’éthique organisationnelleDe la concentration du financement de la recherche en IADe l’économie de la promesseDu cycle de battage technologiqueDe l’avenir de l’IA Bonne écoute!Référence principale:- Colleret, M. et Khelfaoui, M. (2020). D'une révolution avortée à une autre? Les politiques québécoises en nanotechnologies et en IA au prisme de l'économie de la promesse. Recherches sociographiques, 61(1), 163-188.- Colleret, M., & Gingras, Y. (2020). L'intelligence artificielle au Québec: un réseau tricoté serré (Doctoral dissertation, UQAM).Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand. Support the show

Dans cet épisode, nous recevons Guillaume Cabanac surnommé « détective de la tromperie ». Guillaume a été nommé, par la prestigieuse revue Nature, parmi les 10 personnalités qui ont marqué la science en 2021. Guillaume est un chercheur qui fait de la recherche, mais sur la recherche. Il est maître de conférence, docteur en informatique, professeur à l’Université Paul Sabatier Toulouse 3. Il enseigne en informatique, en gestion et traitement informatique des données massives.  Ses plus récents travaux de recherche sont en scientométrie (la science de la mesure et de l'analyse de la science). Avec lui, nous avons principalement discuté d’un article qui a fait beaucoup de bruit dans la communauté scientifique. L’article a été publié en juillet 2021 :Cabanac, Guillaume, Cyril Labbé, and Alexander Magazinov. "Tortured phrases: A dubious writing style emerging in science. Evidence of critical issues affecting established journals." arXiv preprint arXiv:2107.06751 (2021). Ma traduction: Des phrases torturées, de l'émergence d'un style étrange d'écriture en science - Les preuves d'un important problème qui affecte même les journaux scientifiques les plus sérieux et prestigieux. Bonne écoute!Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Support the show

Dans cet épisode, avec mon invité Frédérick Bruneault, notre enquête sur les enjeux éthiques et sociaux de l'IA s'aventure bien en amont du développement de l'IA en explorant: la  formation en éthique de l'IA. Frédérick Bruneault est professeur de philosophie au Collège André-Laurendeau, professeur associé à l'École des médias de l'Université du Québec à Montréal (UQAM), chercheur principal au Laboratoire d'éthique du numérique et de l'intelligence artificielle (LEN.IA), chercheur associé à l'Observatoire sur les impacts sociétaux de l'intelligence artificielle et du numérique (OBVIA), à l'Observatoire du numérique en éducation (ONE). Ses recherches portent sur la fondation de nos obligations morales dans le contexte du développement technologique actuel, notamment celui des technologies du numérique et de l'intelligence artificielle.Avec lui, nous explorons un texte dont il est le coauteur (avec Andréane Sabourin Laflamme, et André Mondoux) : Former à l’éthique de l’IA en enseignement supérieur : Référentiel de compétence.  Au programme:Histoire et genèse du rapport. Méthode de rechercheD’une approche pragmatique en éthiqueDe la compétence en éthique (générale)De la compétence en éthique de l’IABonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Support the show

Dans cet épisode d’IA Café,  nous replongeons dans un sujet que vous avez aimé : les biais en IA.  Avec Jean-Philippe Beauregard, nous retournons à la source en explorant non pas les biais en intelligence artificielle, mais les biais propres à notre intelligence humaine, et donc ... naturelle! Et cela, évidemment afin d'approfondir notre compréhension des biais en IA!Nous avions entamé cette réflexion dès l’épisode 8 (avec Justine Dima) intitulé : «Dis-moi qui tu embauches, et je te dirai qui tu es» (publié le 28 janvier 2021). Nous avions poursuivi notre réflexion avec l’équipe et les collaborateur d’IA Café à l’épisode 9 intitulé : «Biais psychosociaux -  une IA humaine trop humaine» (publié le11 février 2021). Cette enquête sur les biais n’a donc jamais pris de repos. Le nombre de fois où le terme biais est mentionné dans nos 35 premiers épisodes! C’est un thème récurrent, mais nous prenons rarement le temps de l’approfondir. Les réflexions de Jean-Philippe Beauregard nous permettront de faire quelques pas de plus dans notre enquête.Plusieurs thèmes abordés:Analyse des faits - De la discrimination et du racisme systémique en ressources humaines et dans le processus d'embauche - quelques expériences et résultats surprenants!Le problème - Des biais en ressources humaines - Définition, exemple, nature, fréquence Les causes - Des causes psychologiques et sociales Les solutions et conseils - De la gestion prudente des biais en RH et quelques conseils à celles et ceux qui sont impliqués dans la conception d'IA  Bonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Principales sources Jean-Philippe Beauregard, Thèse de doctorat : Les frontières invisibles de l’embauche des Québécois minoritaires : hiérarchie ethnique, effet modérateur du genre féminin et discrimination systémique. Dévoiler la barrière à l’emploi par un testing à Québec (2020)Support the show

Dans cet épisode d’IA Café, retour sur notre rencontre avec Joanne Kirkham et les applications militaires de l’intelligence artificielle. Ève Gaumond, Shirley Plumerand et  Sylvain Munger m'ont accompagné dans cette analyse! Plusieurs thèmes abordés: Des concepts d’autonomie, d'automatisation (et de responsabilité) associés aux systèmes d'armes létaux autonomes (SALA)Des potentialités techniques, exécutives et stratégiques des applications militaires de l'IADu pouvoir du droit international pour encadrer et baliser cette technologieDes degrés et niveaux d’autonomie (human «in», «on» and «off» the loop) Du socle du principe de dignité humaineDes limites de l'idée d'une guerre «humaine»Bonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Principales sourcesJoanne KIRKHAM Doctorante contractuelle (Université Paris 2 Panthéon- Assas), La régulation des armes létales autonomes, un état des lieux des négociations onusiennes, Tribune n. 982.Julien Ancelin, Les systèmes d’armes létaux autonomes (SALA) : Enjeux juridiques de l’émergence d’un moyen de combat déshumanisé. Droit international humanitaire et droit du désarmement. Octobre 2016Support the show

Dans cet épisode d’IA Café, nous recevons une juriste et experte des utilisations militaires de l’intelligence artificielle: Joanne Kirkham.Joanne cumule des passages remarqués au département des affaires juridiques chez Human rights watch,  à Genève au United nations human rights, à Londres au King’s College. Elle a produit une thèse à l’Université Panthéon-Assas, dont le titre est le suivant : "Les systèmes d'armes létaux autonomes en droit international".Plusieurs thèmes abordés:De la définition d'un système d'armes létal autonome (SALA)Des exemples concrets et appliqués d'applications militaires des systèmes d'armes létaux autonomesDes enjeux éthiques, des principaux bénéfices, et des principaux arguments contraires et critiques à l’endroit de cette technologieDes enjeux juridiques et du pouvoir du Droit international pour encadrer cette technologieBonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Principales sourcesJoanne KIRKHAM Doctorante contractuelle (Université Paris 2 Panthéon- Assas), La régulation des armes létales autonomes, un état des lieux des négociations onusiennes, Tribune n. 982.Support the show

Dans cet épisode, on referme le Metavers. Ce sera notre conclusion d'un tryptique dans ces mondes virtuels qu'on souhaiterait ouverts, partagés, itératifs, collectifs, collaboratifs, et interopérables avec des standards universels. La réalité du Métavers n'est pas exactement cela. Retour sur l’entrevue d’Harold Dumur et retour sur les thèmes que nous avons explorés avec lui. Au programme:Du rôle des entrepreneurs dans la création du MétaversDe la présence (ou non) de l'intelligence artificielle (apprentissage profond et apprentissage automatique) dans la conception et la réalisation du Métavers Premières recensions des craintes et critiques associées au Métavers (la menace environnementale, le trouble schizoïde et la perte du réel, l'exploitation et l'instrumentalisation de la donnée,  la menace à la vie personnelle et à l'intimité, le «farweb» de l'économie virtuelle, l'hypercentralisation et le monopole socio-économique)Des promesses et du rêve du Métavers Bonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand, Claude Coulombe.Support the show