GovGPT Academy

Hoofdstuk 4. AI en de publieke taak

Bronnen bij hoofdstuk 4

Kennisclip 2:28
Waar deze clip over gaat

Je ziet op welk onderzoek en welke regels de lessen van hoofdstuk 4 steunen, en waarom je ook bij die bronnen kritisch blijft lezen.

De video laadt pas als je op afspelen klikt. YouTube draait dan in de privacyvriendelijke modus.

Lees het transcript

Hoi! Fijn dat je er weer bent. De lessen in hoofdstuk 4 bouwen op onderzoek en op Nederlandse rapporten, zoals over de toeslagenaffaire. In deze clip zie je per les waar het op steunt.

Bij les 4.1 concludeerde de parlementaire ondervragingscommissie in 2020 dat grondbeginselen van de rechtsstaat waren geschonden, ook door een risicomodel. Green, 2022, analyseerde 41 beleidsregels voor menselijk toezicht. Mensen kunnen dat toezicht in de praktijk vaak niet goed uitoefenen. Bij les 4.2 oordeelde de Autoriteit Persoonsgegevens in 2020 dat nationaliteit als indicator in een risicomodel onrechtmatig en discriminerend was. Peeters en Widlak, 2023, laten zien hoe gekoppelde systemen ertoe leidden dat de organisatie haar eigen besluiten niet meer begreep. Bij les 4.3 vond Grimmelikhuijsen, 2023, dat uitleg over hoe een algoritme tot zijn uitkomst kwam meer vertrouwen gaf dan alleen openbaarheid. Busuioc, 2021, brengt in kaart hoe ondoorzichtige AI de publieke verantwoording onder druk zet.

Bij les 4.4 onderscheiden Fratini en collega's, 2024, op basis van 271 artikelen vier modellen van digitale soevereiniteit. De Autoriteit Persoonsgegevens noemt in 2026 afhankelijkheid van één aanbieder van AI-modellen als systeemrisico voor overheden. Bij les 4.5 hoort het IAMA, in 2026 verkort en afgestemd op de grondrechteneffectbeoordeling uit de AI-verordening. De Algemene Rekenkamer zag in 2021 dat privacy bij algoritmes aandacht krijgt, maar ethische vragen nauwelijks. Bij les 4.6 betogen Laux, Wachter en Mittelstadt, 2024, dat de AI-verordening betrouwbaarheid gelijkstelt aan aanvaardbaar risico, en zo niet vanzelf vertrouwen oplevert. En Mantelero, 2024, werkt uit wat de verplichte grondrechteneffectbeoordeling moet bevatten, ook voor overheden met hoog-risico-AI.

Onderzoek naar AI gaat snel, en bronnen kunnen elkaar soms tegenspreken. Blijf daarom zelf kritisch lezen, ook bij de bronnen die wij kiezen.

De volledige bronnenlijst met links staat bij deze les op academy.civai.eu. Lees gerust een bron die je nieuwsgierig maakt. Veel succes, en tot in de volgende les!

Alle bronnen van hoofdstuk 4

Les 4.1 Mens beslist

  • Parlementaire ondervragingscommissie Kinderopvangtoeslag. (2020). Ongekend onrecht (Kamerstukken II 2020/21, 35 510, nr. 2). Tweede Kamer der Staten-Generaal. https://www.officielebekendmakingen.nl/kst-35510-2.pdf (opent in een nieuw tabblad)
    De commissie concludeert dat bij de uitvoering van de kinderopvangtoeslag grondbeginselen van de rechtsstaat zijn geschonden, onder meer door een "alles-of-niets"-benadering zonder ruimte voor de menselijke maat en door een zelflerend risicoclassificatiemodel dat aanvragen selecteerde. Het is het Nederlandse voorbeeld van wat er gebeurt als systemen en regels het oordeel over een inwoner overnemen.
  • Green, B. (2022). The flaws of policies requiring human oversight of government algorithms. Computer Law & Security Review, 45, Artikel 105681. https://doi.org/10.1016/j.clsr.2022.105681 (opent in een nieuw tabblad)
    Uit een analyse van 41 beleidsregels die menselijk toezicht op overheidsalgoritmes voorschrijven, blijkt dat mensen dat toezicht in de praktijk vaak niet goed kunnen uitoefenen, en dat zo'n regel daardoor gebrekkige systemen ten onrechte kan legitimeren. "Een mens kijkt ernaar" is dus pas een waarborg als die mens echt tijd, kennis en ruimte heeft om af te wijken en zijn besluit zelf te motiveren.

Les 4.2 Gelijke behandeling

  • Autoriteit Persoonsgegevens. (2020). Belastingdienst/Toeslagen: De verwerking van de nationaliteit van aanvragers van kinderopvangtoeslag (Onderzoeksrapport z2018-22445). https://zoek.officielebekendmakingen.nl/blg-945542.pdf (opent in een nieuw tabblad)
    De AP stelde vast dat Toeslagen de nationaliteit van aanvragers onder meer gebruikte als indicator in een risico-classificatiemodel, en oordeelde dat dit onrechtmatig en discriminerend was omdat er geen objectieve rechtvaardiging voor het onderscheid bestond. Het laat zien waarom vooroordelen in een systeem bij de overheid extra zwaar wegen: ze raken burgers die niet om de overheid heen kunnen.
  • Peeters, R., & Widlak, A. C. (2023). Administrative exclusion in the infrastructure-level bureaucracy: The case of the Dutch daycare benefit scandal. Public Administration Review, 83(4), 863–877. https://doi.org/10.1111/puar.13615 (opent in een nieuw tabblad)
    De auteurs analyseren de toeslagenaffaire en laten zien hoe gegevensuitwisseling en algoritmische analyse ertoe leidden dat de organisatie de redenering achter haar eigen besluiten niet meer begreep, met kafkaëske gevolgen voor tienduizenden ouders. Dat maakt duidelijk dat ongelijke behandeling niet alleen uit vooringenomen data komt, maar ook uit hoe systemen aan elkaar gekoppeld zijn.

Les 4.3 Transparant en uitlegbaar

  • Grimmelikhuijsen, S. (2023). Explaining why the computer says no: Algorithmic transparency affects the perceived trustworthiness of automated decision-making. Public Administration Review, 83(2), 241–262. https://doi.org/10.1111/puar.13483 (opent in een nieuw tabblad)
    In experimenten met een afgewezen visumaanvraag en een vermoeden van bijstandsfraude vergrootte uitleg over hoe het algoritme tot zijn uitkomst kwam het vertrouwen sterker dan alleen het openbaar maken van het algoritme, en dat gold deels ook voor het vertrouwen in de ambtenaar. Een vermelding in het Algoritmeregister is dus een begin, maar een inwoner heeft vooral een begrijpelijke uitleg nodig.
  • Busuioc, M. (2021). Accountable artificial intelligence: Holding algorithms to account. Public Administration Review, 81(5), 825–836. https://doi.org/10.1111/puar.13293 (opent in een nieuw tabblad)
    Busuioc brengt vanuit de bestuurskunde in kaart welke problemen AI-systemen geven voor publieke verantwoording, zoals ondoorzichtigheid, en hoe die verantwoording te borgen is. Het onderbouwt waarom een overheid moet kunnen uitleggen hoe AI bij een dienst is gebruikt en wie ervoor verantwoordelijk is.

Les 4.4 Waar draait je data

  • Fratini, S., Hine, E., Novelli, C., Roberts, H., & Floridi, L. (2024). Digital sovereignty: A descriptive analysis and a critical evaluation of existing models. Digital Society, 3(3), Artikel 59. https://doi.org/10.1007/s44206-024-00146-7 (opent in een nieuw tabblad)
    Op basis van 271 artikelen onderscheiden de auteurs vier modellen van digitale soevereiniteit, gericht op rechten, op de markt, op centrale controle en op de staat. Het helpt uitleggen waarom het voor een overheid uitmaakt in welk land en onder welke regels een AI-dienst draait, en waarom de keuze tussen Europese modellen en een Amerikaanse cloudaanbieder meer is dan een technische keuze.
  • Autoriteit Persoonsgegevens. (2026). Rapportage AI & Algoritmes Nederland (editie 6, februari 2026). Directie Coördinatie Algoritmes. https://api.eerstekamer.nl/9370000/1/j4nvi0xeni9vr2l_j9vvkfvj6b325az/vmvknkona3pd/f=/vmvknmp8mawk.pdf (opent in een nieuw tabblad)
    De AP noemt als eerste systeemrisico dat overheden te afhankelijk worden van één aanbieder van AI-modellen, en wijst erop dat zulke afhankelijkheden als geopolitiek drukmiddel kunnen worden ingezet, met het Internationaal Strafhof als voorbeeld. Dat geeft de keuze waar je data draait een concrete, actuele grond.

Les 4.5 Een onderbouwd oordeel

Les 4.6 Wat de AI-verordening van jou vraagt

  • Laux, J., Wachter, S., & Mittelstadt, B. (2024). Trustworthy artificial intelligence and the European Union AI act: On the conflation of trustworthiness and acceptability of risk. Regulation & Governance, 18(1), 3–32. https://doi.org/10.1111/rego.12512 (opent in een nieuw tabblad)
    Op basis van een literatuuronderzoek naar vertrouwen in AI in de publieke sector betogen de auteurs dat de AI-verordening betrouwbaarheid gelijkstelt aan aanvaardbaar risico, en dat de wet daarmee niet vanzelf vertrouwen van burgers oplevert. Het helpt uitleggen waarom voldoen aan de risicoklassen het begin is van je verantwoordelijkheid als gebruiker, en niet het einde.
  • Mantelero, A. (2024). The Fundamental Rights Impact Assessment (FRIA) in the AI Act: Roots, legal obligations and key elements for a model template. Computer Law & Security Review, 54, Artikel 106020. https://doi.org/10.1016/j.clsr.2024.106020 (opent in een nieuw tabblad)
    Mantelero analyseert de verplichte grondrechteneffectbeoordeling uit de AI-verordening, die onder meer geldt voor publiekrechtelijke organisaties die hoog-risico AI gebruiken, en werkt uit welke elementen zo'n beoordeling moet bevatten. Dat maakt concreet wat de verordening vraagt wanneer een gemeente AI inzet bij publieke diensten of uitkeringen.
Je voortgang blijft alleen in deze browser.