Den falske tryghed, der gør dine AI-systemer dårligere: Human in the Loop - Soloafsnit med Dan Rose

"Vi sætter bare et menneske ind i loopet" er blevet standardsvaret, når compliance spørger til risici. Men hvad nu hvis det gør tingene værre?

I det her soloafsnit tager Dan Rose fat på Human in the Loop – et begreb, der er vokset eksplosivt og er skrevet direkte ind i EU's AI Act, men som forskning viser gang på gang kan sænke kvaliteten, forværre bias og reducere dygtige medarbejdere til juridiske stødpuder.

Dan kommer ind på:

Præstationsparadokset:
Hvorfor menneske plus AI ikke altid giver det bedste resultat – og hvornår AI faktisk klarer sig bedre alene.

De kognitive faldgrupper: 
Vigilance decrement, belejlighedsbias, forankringsbias og bekræftelsesbias – og hvad de gør ved dine medarbejdere, når de sættes til at godkende AI-output.

Den moralske deformationszone: 
Hvorfor Human in the Loop alt for ofte er et "cover your ass"-værktøj, der placerer ansvaret hos medarbejderen uden at give dem reel kontrol.

Tre konkrete designgreb: Kognitiv tvangsfunktion, delegation inversion og kortet vs. terrænet – sådan bygger du workflows, der rent faktisk virker.

Har du ønsker til emner eller gæster? Skriv til dan.rose@todai.ai

Kildeliste:

Human-AI Synergy (MIT, 2025): Når mennesker gør AI dårligere:
https://mitsloan.mit.edu/ideas-made-to-matter/when-humans-and-ai-work-best-together-and-when-each-better-alone

Ansvarshuller (AU, 2023): Hvorfor det er uetisk at give medarbejderen ansvaret for AI-fejl:
https://link.springer.com/article/10.1007/s10676-023-09699-6

Manglende Metaviden (2022): Vi er dårlige til at vurdere, hvornår vi skal stole på maskinen:
https://pubsonline.informs.org/doi/10.1287/isre.2021.1079

Kognitive Tvangsfunktioner: Fartbump der tvinger os til selv at tænke:
Studie 1: https://arxiv.org/abs/2101.04517

Studie 2: https://arxiv.org/abs/2402.16279

Moral Crumple Zones (2019): Mennesket som "deformationszone" når teknikken fejler:
https://estsjournal.org/index.php/ests/article/view/260

Case: Zillows algoritme-flop (2021): Da AI-styrede boligkøb kostede millioner:
https://www.gsb.stanford.edu/insights/flip-flop-why-zillows-algorithmic-home-buying-venture-imploded

Succes-case: Radiologi (2023): Markant bedre diagnosticering via AI-støtte:
https://pubmed.ncbi.nlm.nih.gov/37993303/