GovGPT Academy

Hoofdstuk 4. AI en de publieke taak

Les 4.1 Mens beslist

Kennisclip 2:11 GovGPT - Medewerker HEAR Reasoned Responsibility
Wat je in deze les laat zien

Je legt uit waarom AI geen besluit over een inwoner neemt, en wat menselijk toezicht, eigen beoordeling en een goede motivering vragen.

De video laadt pas als je op afspelen klikt. YouTube draait dan in de privacyvriendelijke modus.

Lees het transcript

Hoi! Fijn dat je er weer bent. Een besluit over een inwoner raakt iemands leven, zoals een uitkering of een kwijtschelding. Zo'n besluit neemt een mens, die het kan uitleggen. In deze les leg je uit waarom AI geen besluit over een inwoner neemt, en wat menselijk toezicht, eigen beoordeling en een goede motivering vragen.

Bij de kinderopvangtoeslag selecteerde een zelflerend risicomodel aanvragen, en ontbrak de menselijke maat. De ondervragingscommissie noemde haar rapport in 2020 Ongekend onrecht. Meekijken alleen is niet genoeg. Een analyse van 41 beleidsregels liet zien dat mensen dat toezicht vaak niet goed kunnen uitoefenen. De AI-verordening vraagt bij hoog-risico-AI toezicht door mensen met kennis, opleiding en bevoegdheid. En je hebt tijd en ruimte nodig om af te wijken. AI helpt, jij beslist.

Laten we het proberen in GovGPT, met GovGPT Medewerker. Een verzonnen inwoner van Heidevoort vraagt kwijtschelding van de afvalstoffenheffing. Hij woont alleen, heeft bijstand en geen spaargeld. Ik zeg dat ik zelf besluit, en vraag wat ik eerst moet controleren. GovGPT noemt de verordening, inkomen en vermogen, de leefsituatie en de bewijsstukken. Na mijn controle besluit ik: volledige kwijtschelding. Is mijn motivering compleet? Bijna, zegt GovGPT. Zet erbij dat de verordening kwijtschelding toelaat, en dat je inkomen en vermogen aan de norm hebt getoetst.

Wat werkte hier goed? GovGPT hielp met de controle en de motivering, en het besluit bleef bij mij. Let wel op: GovGPT noemt de verordening zelf fictief. In het echt lees je de regels van je eigen gemeente. En wijk je af van een AI-voorstel, dan is dat geen fout. Daar is je oordeel voor.

Nu ben jij aan de beurt. Bedenk een verzonnen aanvraag uit je eigen werk. Zeg GovGPT dat jij beslist, en vraag wat je moet controleren en wat er in je motivering hoort. Neem daarna zelf het besluit en schrijf de motivering, via de opdracht onder deze video. Veel succes, en tot in de volgende les!

Probeer het in GovGPT

  1. Bedenk een verzonnen aanvraag uit je eigen werkveld, zonder echte namen of gegevens. Of gebruik het voorbeeld hieronder.
  2. Open GovGPT en kies GovGPT - Medewerker. Zeg dat jij beslist en vraag:

Het besluit neem ik zelf. Wat moet ik controleren, en wat moet er in mijn motivering staan? Houd het kort.

Voorbeeld om te plakken:

Een inwoner van de verzonnen gemeente Heidevoort vraagt uitstel van betaling van de onroerendezaakbelasting, omdat hij tijdelijk minder inkomen heeft. Het besluit neem ik zelf. Wat moet ik controleren, en wat moet er in mijn motivering staan? Houd het kort.

  1. Neem zelf het besluit en schrijf de motivering in drie tot vijf zinnen.
  2. Vraag GovGPT of je motivering compleet is. Beslis zelf wat je overneemt.
  3. Schrijf op wat jij nodig hebt om goed toezicht te houden: welke kennis, hoeveel tijd, en de ruimte om af te wijken.

Tip. In de test met het voorbeeld gaf GovGPT een lange, bruikbare lijst (verifiëren, controleren, motivering) en zei het zelf dat het lokale beleid beslissend is. Lees in het echt altijd de regels van je eigen organisatie.

Waar doe je deze opdracht?

In GovGPT via je organisatie

Werkt je organisatie met GovGPT? Log in via de link die je van je organisatie hebt gekregen en kies GovGPT - Medewerker. Weet je de link niet, vraag het dan aan je leidinggevende of de servicedesk.

GovGPT voor je organisatie

Nog geen GovGPT? Je organisatie kan GovGPT afnemen, met de privacyafspraken die daarbij horen. Gebruik voor deze opdracht geen gegevens van inwoners buiten die afspraken.

GovGPT voor je organisatie (opent in een nieuw tabblad)

Geen GovGPT?

Dan kun je de opdracht doen in de AI-omgeving die je organisatie heeft toegestaan. We kunnen niet garanderen dat het daar net zo goed werkt als in GovGPT. Je mist bijvoorbeeld de rollen voor overheidswerk en het vaste blok met verificatiestappen onder elk antwoord. Gebruik geen consumententool voor je werk, dat sluit aan bij het overheidsbrede standpunt over generatieve AI.

Checkvragen

1. Wie neemt volgens de les een besluit over een inwoner, zoals een kwijtschelding?
2. Wat ging er volgens de les mis bij de kinderopvangtoeslag?
3. Wat vraagt de AI-verordening bij hoog-risico-AI?
4. Waarom is meekijken alleen volgens de les niet genoeg?
5. Je wijkt bij een besluit af van een voorstel van AI. Wat zegt de les daarover?

Reflectie

Je antwoord blijft alleen in deze browser. Voor je certificaat telt een antwoord van minstens 20 tekens. Zo bewaar je je voortgang.

Bronnen bij deze les

  • Parlementaire ondervragingscommissie Kinderopvangtoeslag. (2020). Ongekend onrecht (Kamerstukken II 2020/21, 35 510, nr. 2). Tweede Kamer der Staten-Generaal. https://www.officielebekendmakingen.nl/kst-35510-2.pdf (opent in een nieuw tabblad)
    De commissie concludeert dat bij de uitvoering van de kinderopvangtoeslag grondbeginselen van de rechtsstaat zijn geschonden, onder meer door een "alles-of-niets"-benadering zonder ruimte voor de menselijke maat en door een zelflerend risicoclassificatiemodel dat aanvragen selecteerde. Het is het Nederlandse voorbeeld van wat er gebeurt als systemen en regels het oordeel over een inwoner overnemen.
  • Green, B. (2022). The flaws of policies requiring human oversight of government algorithms. Computer Law & Security Review, 45, Artikel 105681. https://doi.org/10.1016/j.clsr.2022.105681 (opent in een nieuw tabblad)
    Uit een analyse van 41 beleidsregels die menselijk toezicht op overheidsalgoritmes voorschrijven, blijkt dat mensen dat toezicht in de praktijk vaak niet goed kunnen uitoefenen, en dat zo'n regel daardoor gebrekkige systemen ten onrechte kan legitimeren. "Een mens kijkt ernaar" is dus pas een waarborg als die mens echt tijd, kennis en ruimte heeft om af te wijken en zijn besluit zelf te motiveren.

In de bronnenclip Bronnen bij hoofdstuk 4 licht Pascal toe waar de lessen van dit hoofdstuk op steunen.

Je voortgang blijft alleen in deze browser.