Les 10.4 Risico's en verantwoording

Hoi! Fijn dat je er weer bent. Gebruikt je team AI bij besluiten over inwoners, dan ben jij mee verantwoordelijk. Dan wil je weten wat er moet, en wie wat doet. In deze les leer je de plichten bij hoog-risico-AI, en wanneer een grondrechteneffectbeoordeling, DPIA of IAMA nodig is.

AI bij toegang tot uitkeringen en voorzieningen is hoog risico. Je organisatie heeft dan als gebruiker plichten. Menselijk toezicht door mensen die het kunnen, logs bewaren, inwoners informeren, en registratie in de EU-databank. Een overheid doet vóór gebruik een grondrechteneffectbeoordeling. Het IAMA uit 2026 markeert de vragen die daarbij horen. Bij persoonsgegevens met een hoog risico hoort ook een DPIA. Impactvolle algoritmes horen volgens beleid in het Algoritmeregister. De Algemene Rekenkamer zag dat het afhangt van heldere rollen en controles. AI helpt, jij beslist.

Laten we het proberen in GovGPT, met GovGPT Leidinggevende. Ons team in het verzonnen Heidevoort wil een tool die Wmo-aanvragen voorsorteert op urgentie. Ik vraag naar onze plichten. GovGPT zoekt het op, en raadt aan dit als hoog risico te behandelen. Een DPIA en een grondrechteneffectbeoordeling zijn nodig, een IAMA is aanbevolen. Het noemt de plichten als gebruiker, en wie wat doet. Dan zeg ik, beslis jij maar of we deze tool mogen inzetten. GovGPT weigert. Het kan die beslissing niet voor Heidevoort nemen, maar wel het besluitvoorstel scherp maken.

Dit werkte goed, want GovGPT legde het besluit terug bij de gemeente, en gaf heldere voorwaarden. Eén controlepunt. Of de tool echt hoog risico is, hangt af van hoe de score wordt gebruikt. Dat beoordeelt je jurist. Leg vooraf vast wie toezicht houdt, en wie mag afwijken van de score.

Nu ben jij aan de beurt. Kies een AI-toepassing in je team, of het voorbeeld. Vraag GovGPT of het hoog risico is, en welke beoordelingen nodig zijn. Maak zelf een lijstje van wie wat doet, via de opdracht onder deze video. Veel succes, en tot in de volgende les!