Jobst Heitzig

Evander Hammer, ein Student, der sich mit effektivem Altruismus beschäftigt, Lisa Thiergart, eine Mathematikerin für KI-Sicherheit, und Jobst Heitzig, Mathematiker am Potsdam-Institut, sprechen über die Risiken der Künstlichen Intelligenz. Sie diskutieren die Dringlichkeit von KI-Regulierung und die Herausforderungen der menschlichen Entscheidungsfindung. Ein spannender Vergleich wird zwischen einer Harry Potter Fanfiction und der heutigen Welt gezogen, in der kluge Entscheidungen über Leben und Tod entscheiden können. Der kollektive Verantwortung für die Zukunft der KI wird ebenfalls thematisiert.

Jobst Heitzig, mathematician at the Potsdam Institute and AI safety designer, studies risks from optimisation and decision design. He discusses how perfect goals are impossible, how over-optimisation creates harms like harmful recommendations or infrastructure failures, and why satisficing, safe exploration and game-theoretic thinking matter for human-AI interaction.