AIToday Live S08E41 - Non-discriminatie in overheidsalgoritmes: jij hebt invloed op de nieuwe standaard
Marianne Witte Schaaphok van TNO werkt met overheids-, wetenschappelijk en maatschappelijke organisaties aan de ontwikkeling van de eerste Nederlandse technische afspraak voor profileringsalgoritmes die bepalen welke burgers gecontroleerd worden op fraude of uitkeringen. Het probleem: algoritmes discrimineren onbedoeld door bepaalde groepen systematisch vaker te selecteren, zonder dat organisaties dit doorhebben. Ze creëerde een systematische aanpak van probleemstelling tot toetsing, met concrete metrieken om bias te meten.
Als 80% van je algoritme-output bestaat uit ouderen terwijl zij geen 80% vormen van de doelgroep, dan meet je direct de scheve verdeling. Morgen kun je haar drie kernvragen toepassen: wat is het echte probleem, welke groepen worden geraakt, en hoe meet je of je algoritme eerlijk behandelt.
Onderwerpen
- Nederlandse technische afspraak (NTA) voor profileringsalgoritmes bij de overheid
- Bias detecteren en meten in algoritmes, inclusief representativiteit en foutmarges
- Het verschil tussen correlatie en causaliteit in algoritme-beslissingen
- Menselijke tussenkomst en werkprocessen bij algoritme-output
Links
- Standaard: Nederlandse Technische Afspraak (NTA) voor profileringsalgoritmes bij de overheid
- Kaartspel: AI Game Changer - Generative AI editie
Genoemde entiteiten: TNO - NEN
AigencyAigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.
Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).
Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.
Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!