Edition Zukunft

Juristin: "Der Algorithmus ist kein neutrales Ding"

16 snips
Sep 5, 2025
Sandra Wachter, Juristin und Datenethikerin am Internet Institute der Universität Oxford, spricht über die Herausforderungen der Künstlichen Intelligenz. Sie erklärt das Black-Box-Problem und wie es die Transparenz und Fairness in Entscheidungen beeinträchtigt. Wachter zeigt auf, wie KI in Medizin und Gesellschaft Vorteile liefern kann, während sie gleichzeitig diskriminierende Vorurteile verstärken kann. Zudem diskutiert sie ethische Fragen bei der Nutzung von Algorithmen und die Rolle der KI in einer werteorientierten Gesellschaft.
Ask episode
AI Snips
Chapters
Books
Transcript
Episode notes
INSIGHT

Jeder Sieht Eine Eigene Online-Realität

  • Online-Erlebnisse sind maßgeschneidert; jeder sieht eine andere Realität basierend auf Algorithmen.
  • Das erschwert das Erkennen von Ungerechtigkeit, weil faire Vergleiche fehlen.
ADVICE

Führe Systematische Bias-Tests Durch

  • Führe systematische Bias-Tests durch, damit Dritte Ungerechtigkeiten im System aufdecken können.
  • Wachters Bias-Test (Conditional Demographic Disparity) ist Open Source und wurde bereits von NGOs und Firmen eingesetzt.
INSIGHT

KI Nützt Dort, Wo Prozesse Gut Sind

  • KI kann in Medizin und Verwaltung helfen, indem sie große Datenmengen analysiert und Muster erkennt.
  • Solche Tools unterstützen Prozesse, sind aber nur sinnvoll, wenn die zugrundeliegenden Verfahren bereits korrekt sind.
Get the Snipd Podcast app to discover more snips from this episode
Get the app