GovGPT Academy

Hoofdstuk 4. AI en de publieke taak

Les 4.2 Gelijke behandeling

Kennisclip 2:12 GovGPT - Medewerker HEAR Reasoned Responsibility
Wat je in deze les laat zien

Je vindt een voorbeeld van vooroordeel in AI-uitvoer en legt uit waarom dat bij de overheid extra zwaar weegt.

De video laadt pas als je op afspelen klikt. YouTube draait dan in de privacyvriendelijke modus.

Lees het transcript

Hoi! Fijn dat je er weer bent. AI leert van teksten uit de wereld, en daar zitten ook vooroordelen in. Die komen soms in een AI-antwoord terecht, netjes geformuleerd. In deze les vind je een voorbeeld van vooroordeel in AI-uitvoer, en leg je uit waarom dat bij de overheid extra zwaar weegt.

Bij de kinderopvangtoeslag werd de nationaliteit van aanvragers gebruikt als indicator in een risicomodel. De Autoriteit Persoonsgegevens oordeelde in 2020 dat dit onrechtmatig en discriminerend was. Onderzoek naar de affaire laat zien dat ongelijke behandeling ook komt uit hoe systemen aan elkaar gekoppeld zijn. Inwoners kunnen niet om de overheid heen. Daarom weegt gelijke behandeling hier extra zwaar. Zie je een vooroordeel in AI-uitvoer, dan neem je het niet over. AI helpt, jij beslist.

Laten we het proberen in GovGPT, met GovGPT Medewerker. Een andere chatbot maakte selectieregels voor extra controle bij bijzondere bijstand in het verzonnen Heidevoort. Eén regel is voor deze les fout gemaakt. Ik vraag GovGPT of deze regels eerlijk zijn. GovGPT is duidelijk. Regel drie, een tweede nationaliteit, is niet eerlijk en waarschijnlijk discriminerend. Regel één en twee kunnen verdedigbaar zijn, als ze objectief zijn en voor iedereen gelden. Ik schrap regel drie, en vraag wat ik mis. GovGPT noemt vastleggen, toetsen op indirecte discriminatie, en de uitkomsten volgen.

Wat werkte hier goed? GovGPT herkende het vooroordeel, en legde uit waarom. Maar regel drie was makkelijk. Vaak is het subtieler, zoals een postcode die samenhangt met afkomst. Kijk daarom ook naar de uitkomsten. Wie wordt er vaker gecontroleerd, en is daar een goede reden voor?

Nu ben jij aan de beurt. Neem een AI-tekst uit je werk, of het voorbeeld bij de opdracht. Vraag GovGPT of er een vooroordeel in zit, en waarom dat bij de overheid zwaar weegt. Kijk zelf kritisch mee, en pas aan wat niet eerlijk is, via de opdracht onder deze video. Veel succes, en tot in de volgende les!

Probeer het in GovGPT

  1. Neem een AI-tekst, -lijst of -advies uit je werk. Of gebruik het voorbeeld hieronder (verzonnen, met een bewust vooroordeel).
  2. Open GovGPT en kies GovGPT - Medewerker. Vraag:

Zit hier een vooroordeel in, en waarom weegt dat bij de overheid extra zwaar? Houd het kort.

Voorbeeld om te plakken:

Een andere chatbot schreef deze zin voor een vacature bij de verzonnen gemeente Heidevoort: "We zoeken een jonge, energieke collega met Nederlands als moedertaal." Zit hier een vooroordeel in, en waarom weegt dat bij de overheid extra zwaar? Houd het kort.

  1. Kijk zelf mee. Welke woorden sluiten mensen uit zonder dat het voor het werk nodig is?
  2. Herschrijf wat niet eerlijk is, met een eis die echt bij het werk hoort.
  3. Leg in twee zinnen uit waarom gelijke behandeling bij de overheid extra zwaar weegt.

Tip. In de test met het voorbeeld wees GovGPT "jonge" en "Nederlands als moedertaal" aan en stelde het een concreet taalniveau voor. Het verwees daarbij alleen naar de Algemene wet gelijke behandeling, terwijl leeftijd bij werving onder een eigen wet valt. Check de juiste regel dus zelf, of vraag het na bij HR of een jurist.

Waar doe je deze opdracht?

In GovGPT via je organisatie

Werkt je organisatie met GovGPT? Log in via de link die je van je organisatie hebt gekregen en kies GovGPT - Medewerker. Weet je de link niet, vraag het dan aan je leidinggevende of de servicedesk.

GovGPT voor je organisatie

Nog geen GovGPT? Je organisatie kan GovGPT afnemen, met de privacyafspraken die daarbij horen. Gebruik voor deze opdracht geen gegevens van inwoners buiten die afspraken.

GovGPT voor je organisatie (opent in een nieuw tabblad)

Geen GovGPT?

Dan kun je de opdracht doen in de AI-omgeving die je organisatie heeft toegestaan. We kunnen niet garanderen dat het daar net zo goed werkt als in GovGPT. Je mist bijvoorbeeld de rollen voor overheidswerk en het vaste blok met verificatiestappen onder elk antwoord. Gebruik geen consumententool voor je werk, dat sluit aan bij het overheidsbrede standpunt over generatieve AI.

Checkvragen

1. Wat oordeelde de Autoriteit Persoonsgegevens in 2020 over de kinderopvangtoeslag?
2. Waarom weegt gelijke behandeling bij de overheid extra zwaar?
3. Waar komt ongelijke behandeling volgens onderzoek naar de toeslagenaffaire ook vandaan?
4. Een selectieregel gebruikt een postcode die samenhangt met afkomst. Wat zegt de les hierover?
5. GovGPT noemt een regel met een tweede nationaliteit niet eerlijk en waarschijnlijk discriminerend. Wat doe je?

Reflectie

Je antwoord blijft alleen in deze browser. Voor je certificaat telt een antwoord van minstens 20 tekens. Zo bewaar je je voortgang.

Bronnen bij deze les

  • Autoriteit Persoonsgegevens. (2020). Belastingdienst/Toeslagen: De verwerking van de nationaliteit van aanvragers van kinderopvangtoeslag (Onderzoeksrapport z2018-22445). https://zoek.officielebekendmakingen.nl/blg-945542.pdf (opent in een nieuw tabblad)
    De AP stelde vast dat Toeslagen de nationaliteit van aanvragers onder meer gebruikte als indicator in een risico-classificatiemodel, en oordeelde dat dit onrechtmatig en discriminerend was omdat er geen objectieve rechtvaardiging voor het onderscheid bestond. Het laat zien waarom vooroordelen in een systeem bij de overheid extra zwaar wegen: ze raken burgers die niet om de overheid heen kunnen.
  • Peeters, R., & Widlak, A. C. (2023). Administrative exclusion in the infrastructure-level bureaucracy: The case of the Dutch daycare benefit scandal. Public Administration Review, 83(4), 863–877. https://doi.org/10.1111/puar.13615 (opent in een nieuw tabblad)
    De auteurs analyseren de toeslagenaffaire en laten zien hoe gegevensuitwisseling en algoritmische analyse ertoe leidden dat de organisatie de redenering achter haar eigen besluiten niet meer begreep, met kafkaëske gevolgen voor tienduizenden ouders. Dat maakt duidelijk dat ongelijke behandeling niet alleen uit vooringenomen data komt, maar ook uit hoe systemen aan elkaar gekoppeld zijn.

In de bronnenclip Bronnen bij hoofdstuk 4 licht Pascal toe waar de lessen van dit hoofdstuk op steunen.

Je voortgang blijft alleen in deze browser.