Risques d'une AGI et scénarios dystopiques

Loïc et Mathieu débattent des systèmes critiques contrôlés par IA et des risques d'alignement.

Play episode from 01:46:24

chevron_right

Transcript

chevron_right

Transcript

Episode notes

Et si nous étions en fait dans une simulation depuis le début ?

C'est la question qui obsède Sam Altman, Elon Musk et les plus grands cerveaux de la Silicon Valley depuis plus de 15 ans.

Chercheurs, milliardaires, astrophysiciens, tous ont employé des ressources colossales pour y répondre. Tous se sont heurtés à la même limite : celle de notre propre conscience.

Est-ce que le monde tel qu’on le perçoit, tel qu’on le vit, tel qu’on l’expérimente est vraiment réel ? Ou bien sommes-nous manipulés par une entité supérieure comme dans un jeu vidéo ?

Et si c’était le cas, nos capacités cognitives nous permettraient-elles vraiment de le percevoir ?

Loïc Hecht tombe sur cette théorie en 2016 et sa vie bascule.

Journaliste de métier, plutôt pragmatique, il pense d'abord à une lubie de plus des milliardaires déconnectés de la Valley.

Puis il creuse. Pendant 10 ans, il sillonne le globe, de la frénésie de Palo Alto aux temples bouddhistes indiens pour trouver des pistes de réponse. Et aujourd’hui, il livre ce travail colossal dans son nouvel ouvrage “La simulation” qui bouleverse tous ceux qui l’ont entre les mains.

Ce qu'il a découvert au fil de cette enquête est proprement vertigineux. Et sa conclusion rigoureusement documentée, impossible à balayer d'un revers de main ou d’un simple “c’est une théorie de complotistes”, est sans appel : il est aujourd'hui impossible de réfuter l’hypothèse de la simulation avec certitude.

Vous ne sortirez intact ni de ce livre ni de cet épisode.

Loïc ne cherche à convaincre personne, il invite à faire un pas de côté volontaire pour remettre en question le monde qui nous entoure sans pour autant en perdre le contact.

“La simulation” est disponible dans toutes les bonnes librairies, ou juste ici : https://amzn.to/3R8UA92

Vous pouvez contacter Loïc sur LinkedIn et Instagram.

Vous souhaitez sponsoriser Génération Do It Yourself ou nous proposer un partenariat ?

Contactez mon label Orso Media via ce formulaire.

TIMELINE:

00:00:00 : La Silicon Valley : passage obligatoire pour comprendre le monde
00:12:00 : Open AI et la théorie de la simulation
00:22:24 : Dans une enquête, il faut toujours aller voir sur le terrain
00:27:10 : "Il est aujourd'hui impossible de dire qu'on ne vit pas dans une simulation"
00:40:57 : Les datasets : la nouvelle obsession de tous les acteurs de la tech
00:47:30 : Que sait-on vraiment de nous-mêmes ?
00:55:32 : Votre propre cerveau vous trompe
01:05:25 : "Le cerveau ne capte qu'une infime partie de la réalité"
01:16:11 : Comment se construisent les révolutions scientifiques
01:26:44 : Pourquoi l'étude de la conscience est si complexe ?
01:36:58 : L'IA est-elle en train de nous échapper ?
01:49:52 : "Le problème des psychédéliques c'est que tu ne contrôles plus rien"
02:03:43 : Fuir le dogmatisme à tout prix

Les anciens épisodes de GDIY mentionnés :

#401 - Emmanuel Macron - Président de la République - Les décisions les plus lourdes se prennent seul
#321 - Georges-Olivier Reymond - Pasqal - Et si le leader mondial du Quantum Computing était Français ?
#397 - Yann Le Cun - Chief AI Scientist chez Meta - l'Intelligence Artificielle Générale ne viendra pas de Chat GPT
#531 - Mathias Frachon - The Product Crew - IA et agents, tout part en vrille, il est temps de vous y mettre
#506 - Matthieu Ricard - Moine bouddhiste - Se libérer du chaos extérieur sans se couper du monde
#473 - VO - Brian Chesky - Airbnb - « We're just getting started »
#419 - Raphaël Gaillard - Psychiatre, Académicien - “Notre cerveau ne se supporte plus”
#206 - Nicolas Hennion - Libérez la bête - Développement personnel radical

Nous avons parlé de :