Hoofdstuk 4. AI en de publieke taak
Les 4.6 Wat de AI-verordening van jou vraagt
Je herkent wanneer de AI-verordening je werk raakt, als gebruiker of als maker. Je meldt AI-gebruik, controleert als mens, vermijdt verboden toepassingen, signaleert hoog risico en kunt uitleg geven.
De video laadt pas als je op afspelen klikt. YouTube draait dan in de privacyvriendelijke modus.
Lees het transcript
Hoi! Fijn dat je er weer bent. De AI-verordening is een Europese wet die ook jouw werk raakt. Je hoeft geen jurist te zijn om te weten wat ze vraagt. In deze les herken je wanneer de AI-verordening je werk raakt, als gebruiker of als maker, en wat je dan doet.
Gebruik je AI, dan is je organisatie gebruiker. Bouwt je team zelf een assistent, dan wordt je organisatie aanbieder. Sinds februari 2025 moet je organisatie werken aan AI-geletterdheid, zonder verplicht certificaat. Sindsdien zijn ook sommige toepassingen verboden, zoals sociale scoring of emotieherkenning bij collega's. Twijfel je, vraag het na. Sinds augustus 2026 geldt transparantie. Inwoners horen te weten dat ze met AI praten. Vanaf december 2027 gelden zwaardere regels voor hoog risico, zoals AI bij toegang tot uitkeringen. Daar houdt een mens toezicht.
Laten we het proberen in GovGPT, met GovGPT Medewerker. Ik vraag wat de wet van mij vraagt, als ik GovGPT gebruik voor teksten. GovGPT noemt AI-geletterd werken, feiten controleren, en AI nooit als enige basis voor een besluit. En wat verandert er als ons team een chatbot bouwt voor vragen over afval? Meld duidelijk dat inwoners met AI chatten, zegt GovGPT, en zorg dat een medewerker kan overnemen. Ik check het in de officiële tekst. Artikel 50 vraagt dat inderdaad.
Dit werkte goed, want GovGPT gaf korte, praktische punten bij mijn eigen situatie. Eén controlepunt. GovGPT noemde geen artikelen of data. Die zoek je zelf op, of je vraagt je jurist. Gaat een assistent meebeslissen over een aanvraag, vraag dan eerst na of het hoog risico is.
Nu ben jij aan de beurt. Kies hoe jij of je team AI gebruikt, of neem het voorbeeld. Vraag GovGPT wat de AI-verordening daarvoor betekent, en of je gebruiker bent of maker. Check één punt zelf in de officiële tekst, via de opdracht onder deze video. Veel succes, en tot in de volgende les!
Probeer het in GovGPT
- Kies hoe jij of je team AI gebruikt, of wil gaan gebruiken. Of gebruik het voorbeeld hieronder (verzonnen).
- Open GovGPT en kies GovGPT - Medewerker. Vraag wat de AI-verordening daarvoor betekent, en of je organisatie gebruiker is of aanbieder.
Voorbeeld om te plakken:
Ons team in de verzonnen gemeente Heidevoort wil een AI Companion bouwen die Wmo-aanvragen voorsorteert op urgentie. Wat betekent de AI-verordening daarvoor? Houd het kort.
- Check één punt zelf in de officiële tekst van de AI-verordening (Verordening (EU) 2024/1689 op eur-lex.europa.eu), bijvoorbeeld artikel 50 of bijlage III.
- Schrijf op wat jij in je werk doet: AI-gebruik melden, zelf controleren, en bij twijfel navragen.
Tip. In de test met het voorbeeld zei GovGPT dat zo'n AI Companion waarschijnlijk hoog risico is als de score invloed heeft op wie sneller hulp krijgt, en noemde het menselijk toezicht en een grondrechteneffectbeoordeling. Laat zo'n oordeel altijd toetsen door een jurist.
Waar doe je deze opdracht?
In GovGPT via je organisatie
Werkt je organisatie met GovGPT? Log in via de link die je van je organisatie hebt gekregen en kies GovGPT - Medewerker. Weet je de link niet, vraag het dan aan je leidinggevende of de servicedesk.
GovGPT voor je organisatie
Nog geen GovGPT? Je organisatie kan GovGPT afnemen, met de privacyafspraken die daarbij horen. Gebruik voor deze opdracht geen gegevens van inwoners buiten die afspraken.
Geen GovGPT?
Dan kun je de opdracht doen in de AI-omgeving die je organisatie heeft toegestaan. We kunnen niet garanderen dat het daar net zo goed werkt als in GovGPT. Je mist bijvoorbeeld de rollen voor overheidswerk en het vaste blok met verificatiestappen onder elk antwoord. Gebruik geen consumententool voor je werk, dat sluit aan bij het overheidsbrede standpunt over generatieve AI.
Checkvragen
Reflectie
Je antwoord blijft alleen in deze browser. Voor je certificaat telt een antwoord van minstens 20 tekens. Zo bewaar je je voortgang.
Bronnen bij deze les
- Laux, J., Wachter, S., & Mittelstadt, B. (2024). Trustworthy artificial intelligence and the European Union AI act: On the conflation of trustworthiness and acceptability of risk. Regulation & Governance, 18(1), 3–32. https://doi.org/10.1111/rego.12512 (opent in een nieuw tabblad)Op basis van een literatuuronderzoek naar vertrouwen in AI in de publieke sector betogen de auteurs dat de AI-verordening betrouwbaarheid gelijkstelt aan aanvaardbaar risico, en dat de wet daarmee niet vanzelf vertrouwen van burgers oplevert. Het helpt uitleggen waarom voldoen aan de risicoklassen het begin is van je verantwoordelijkheid als gebruiker, en niet het einde.
- Mantelero, A. (2024). The Fundamental Rights Impact Assessment (FRIA) in the AI Act: Roots, legal obligations and key elements for a model template. Computer Law & Security Review, 54, Artikel 106020. https://doi.org/10.1016/j.clsr.2024.106020 (opent in een nieuw tabblad)Mantelero analyseert de verplichte grondrechteneffectbeoordeling uit de AI-verordening, die onder meer geldt voor publiekrechtelijke organisaties die hoog-risico AI gebruiken, en werkt uit welke elementen zo'n beoordeling moet bevatten. Dat maakt concreet wat de verordening vraagt wanneer een gemeente AI inzet bij publieke diensten of uitkeringen.
In de bronnenclip Bronnen bij hoofdstuk 4 licht Pascal toe waar de lessen van dit hoofdstuk op steunen.