
Edition Zukunft Juristin: "Der Algorithmus ist kein neutrales Ding"
16 snips
Sep 5, 2025 Sandra Wachter, Juristin und Datenethikerin am Internet Institute der Universität Oxford, spricht über die Herausforderungen der Künstlichen Intelligenz. Sie erklärt das Black-Box-Problem und wie es die Transparenz und Fairness in Entscheidungen beeinträchtigt. Wachter zeigt auf, wie KI in Medizin und Gesellschaft Vorteile liefern kann, während sie gleichzeitig diskriminierende Vorurteile verstärken kann. Zudem diskutiert sie ethische Fragen bei der Nutzung von Algorithmen und die Rolle der KI in einer werteorientierten Gesellschaft.
AI Snips
Chapters
Books
Transcript
Episode notes
Jeder Sieht Eine Eigene Online-Realität
- Online-Erlebnisse sind maßgeschneidert; jeder sieht eine andere Realität basierend auf Algorithmen.
- Das erschwert das Erkennen von Ungerechtigkeit, weil faire Vergleiche fehlen.
Führe Systematische Bias-Tests Durch
- Führe systematische Bias-Tests durch, damit Dritte Ungerechtigkeiten im System aufdecken können.
- Wachters Bias-Test (Conditional Demographic Disparity) ist Open Source und wurde bereits von NGOs und Firmen eingesetzt.
KI Nützt Dort, Wo Prozesse Gut Sind
- KI kann in Medizin und Verwaltung helfen, indem sie große Datenmengen analysiert und Muster erkennt.
- Solche Tools unterstützen Prozesse, sind aber nur sinnvoll, wenn die zugrundeliegenden Verfahren bereits korrekt sind.




