Ach, Mensch! | Wenn Maschinen Zeugen werden: Wie verändert KI den Gerichtsprozess?

AI is watching us

Es gibt kaum einen Bereich unseres Lebens, in dem wir heute noch ohne Technik auskommen: Smartwatches, die unsere Körperfunktionen tracken oder ein Assistent in unserem Auto, der checkt, ob wir müde sein könnten oder unkontrolliert fahren. Egal, wo wir hingehen: Das Smartphone und seine KI-Systeme wissen, weiß, wo wir sind.

All diese Maschinen begleiten uns also durch den Alltag und stellen in den allermeisten Fällen nichts Auffälliges fest. Was aber, wenn tatsächlich etwas passiert und ein KI-System alles aufgezeichnet hat? Wenn etwa der Autofahrer nach einer Müdigkeitswarnung weiterfährt und einen Unfall baut? Könnte das Auto zum Belastungszeugen werden?

Wo die KI an ihre Grenzen stößt

Auf den ersten Blick scheinen smarte Geräte objektive Beweismittel zu sein. Doch Prof. Dr. Sabine Gless weiß, dass es nicht so einfach ist. Sie forscht am Max-Planck-Institut zur Erforschung von Kriminalität, Sicherheit und Recht. Ein Müdigkeitswarner im Auto erkennt zum Beispiel keine Tiere auf der Straße. Er registriert nur eine abrupte Lenkbewegung und deutet sie vielleicht fälschlich als Sekundenschlaf.

Ein Problem sei außerdem, dass Algorithmen hinter KI-Systemen nie vollständig transparent sind. Schon allein, weil Hersteller ihre Programmierung ungern preisgeben und auch rechtlich in Form des Betriebsgeheimnisses geschützt sind. So bleibt unklar, wie ein System zu seinem finalen Ergebnis kommt.

Recht auf faire Verteidigung

Auch Verteidigungsrechte müssten angepasst werden, wenn KI im Strafprozess verwendet wird. In Europa darf sich jede angeklagte Person effektiv gegen belastende Beweise wehren. Bei KI-Systemen wird das allerdings schwierig, da sie nicht befragt oder ins Kreuzverhör genommen werden können, wie es bei menschlichen Zeugen üblich ist. Um KI-Systeme in Deutschland im Strafverfahren einzusetzen, müssten neue gesetzliche Regelungen geschaffen werden, etwa für einen „KI-Beweis“.

Eines steht für sie fest: Die Technik wird bleiben — und mit ihr die Verantwortung, sie richtig zu verstehen. In dieser Folge von „Ach, Mensch!“ spricht detektor.fm-Moderatorin Jessica Hughes mit Sabine Gless über Grenzen und Möglichkeiten von KI im Strafprozess.