GovGPT Academy

Hoofdstuk 11. Zelf AI Companions bouwen

Les 11.2 Instructies en grenzen

Kennisclip 2:23 Agent Marktplaats en Agent Builder
Wat je in deze les laat zien

Je schrijft instructies met doel, toon en grenzen, inclusief wat de AI Companion niet doet. Je weet dat je organisatie aanbieder wordt van wat je bouwt, en je toetst of de taak richting hoog risico gaat.

De video laadt pas als je op afspelen klikt. YouTube draait dan in de privacyvriendelijke modus.

Lees het transcript

Hoi! Fijn dat je er weer bent. Je AI Companion heeft een naam, maar nog geen instructies. Die bepalen wat hij doet, hoe hij klinkt, en waar zijn grens ligt. In deze les maak je instructies met de Prompt Companion, en kijk je wat de AI-verordening van je vraagt.

In onderzoek probeerden mensen zonder AI-achtergrond hun instructies lukraak uit, en trokken ze te snel conclusies uit één goed antwoord. Bouw je instructies daarom op uit drie blokken. Doel, toon en grenzen, met ook wat de AI Companion niet doet. Een juridische analyse laat zien dat wie AI aanpast en inzet voor een eigen doel, daar ook plichten bij krijgt. Bouwt je organisatie zelf een AI Companion, dan wordt ze aanbieder. En het doel bepaalt mee of hij hoog risico wordt. Jij legt de grenzen vast. AI helpt, jij beslist.

Laten we het proberen in GovGPT, verder met de Prompt Companion. Ik vraag om instructies voor de Agent Builder, met doel, toon en grenzen. De Prompt Companion schrijft ze uit. Geen boetes, geen persoonsgegevens, en bij twijfel naar het KCC. Ik zet ze in de Agent Builder en test een grens. Kan de AI Companion een boete kwijtschelden? Hij meldt dat hij AI is, en verwijst voor de boete naar het KCC. Dan vraag ik GovGPT Medewerker, met webzoeken aan, wat de AI-verordening hierover zegt. GovGPT noemt artikel 3, de gemeente wordt aanbieder. En artikel 50, inwoners moeten weten dat ze met AI praten. Daarna legt GovGPT uit wanneer hij hoog risico wordt. Bijvoorbeeld als hij beoordeelt of iemand recht heeft op bijstand.

Dit werkte goed, want de AI Companion hield zich aan zijn grens, en GovGPT noemde de artikelen met een link. Eén punt uit het materiaal. Volgens artikel 25 word je ook aanbieder van een systeem met hoog risico als je het doel zo verandert dat het hoog risico wordt. Houd het doel dus smal, en lees de artikelen zelf na.

Nu ben jij aan de beurt. Neem je AI Companion uit de vorige les, of het voorbeeld bij de opdracht. Laat de Prompt Companion instructies maken, en test meteen één grens. Toets daarna met webzoeken of je AI Companion hoog risico kan worden. De opdracht staat onder deze video. Veel succes, en tot in de volgende les!

Probeer het in GovGPT

  1. Ga verder in je chat met de Prompt Companion uit les 11.1, of start een nieuwe met het voorbeeld hieronder (verzonnen).

Voorbeeld om te plakken:

Schrijf instructies voor een AI Companion van de verzonnen gemeente Heidevoort die inwoners uitlegt hoe ze een paspoort aanvragen. Gebruik de kopjes Doel, Toon en Grenzen. Laat hem melden dat de inwoner met AI praat, geen persoonsgegevens vragen en geen afspraken maken. Schrijf kort, zonder dubbele punten en zonder opmaak. Geen tabel.

  1. Lees de instructies kritisch. Staat erin wat de AI Companion niet doet? Meldt hij dat de inwoner met AI praat?
  2. Plak de instructies in de Agent Builder bij Instructies en klik op Opslaan.
  3. Test meteen één grens. Vraag je AI Companion iets wat hij niet mag doen, bijvoorbeeld een afspraak maken of een boete kwijtschelden. Verwijst hij netjes door?
  4. Zet in GovGPT - Medewerker webzoeken aan (Tools, Webzoekopdracht) en toets of jouw AI Companion hoog risico kan worden. Lees daarna zelf na op EUR-Lex, in de AI-verordening (EU) 2024/1689: artikel 3 punt 3 (aanbieder), artikel 50 lid 1 (melden dat het AI is), artikel 6 lid 2 met bijlage III (hoog risico) en artikel 25 lid 1 (wie het doel verandert, kan aanbieder van een systeem met hoog risico worden).

Tip. In de test gaf de Prompt Companion nette instructies in drie blokken. GovGPT - Medewerker concludeerde met webzoeken dat een AI Companion die alleen uitlegt hoe je een paspoort aanvraagt normaal geen hoog risico is (artikel 6 lid 2 en bijlage III), zolang hij geen aanvragen beoordeelt. Houd het doel in je instructies dus smal.

Waar doe je deze opdracht?

In GovGPT via je organisatie

Werkt je organisatie met GovGPT? Log in via de link die je van je organisatie hebt gekregen en kies Agent Marktplaats en Agent Builder. Weet je de link niet, vraag het dan aan je leidinggevende of de servicedesk.

GovGPT voor je organisatie

Nog geen GovGPT? Je organisatie kan GovGPT afnemen, met de privacyafspraken die daarbij horen. Gebruik voor deze opdracht geen gegevens van inwoners buiten die afspraken.

GovGPT voor je organisatie (opent in een nieuw tabblad)

Geen GovGPT?

Dan kun je de opdracht doen in de AI-omgeving die je organisatie heeft toegestaan. We kunnen niet garanderen dat het daar net zo goed werkt als in GovGPT. Je mist bijvoorbeeld de rollen voor overheidswerk en het vaste blok met verificatiestappen onder elk antwoord. Gebruik geen consumententool voor je werk, dat sluit aan bij het overheidsbrede standpunt over generatieve AI.

Checkvragen

1. Uit welke drie blokken bouw je de instructies van je AI Companion op?
2. Je test een grens en vraagt of de AI Companion een boete kan kwijtschelden. Welk antwoord wil je zien?
3. Je organisatie bouwt zelf een AI Companion en neemt hem in gebruik. Wat wordt ze dan volgens artikel 3, punt 3, van de AI-verordening?
4. Inwoners gaan met je AI Companion praten. Wat vraagt artikel 50, lid 1?
5. Wanneer kan je AI Companion hoog risico worden?

Reflectie

Je antwoord blijft alleen in deze browser. Voor je certificaat telt een antwoord van minstens 20 tekens. Zo bewaar je je voortgang.

Bronnen bij deze les

  • Zamfirescu-Pereira, J. D., Wong, R. Y., Hartmann, B., & Yang, Q. (2023). Why Johnny can't prompt: How non-AI experts try (and fail) to design LLM prompts. In Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems (pp. 1–21). ACM. https://doi.org/10.1145/3544548.3581388 (opent in een nieuw tabblad)
    Mensen zonder AI-achtergrond die een chatbot moesten instrueren, probeerden opdrachten lukraak in plaats van systematisch te verbeteren en generaliseerden te snel uit één goed antwoord. Dat is de reden om instructies voor een AI Companion op te bouwen uit doel, toon en expliciete grenzen, en ze daarna gericht te testen.
  • Teichmann, F. (2026). General-purpose AI under the EU AI Act: A conceptual allocation of duties across the value chain. SCRIPTed: A Journal of Law, Technology & Society, 23(1), 24–57. https://doi.org/10.2218/scrip.12300 (opent in een nieuw tabblad)
    Dit artikel ordent de rollen in de AI-keten (makers van basismodellen, partijen die aanpassen of integreren, en gebruiksverantwoordelijken) en betoogt dat wie AI aanpast of inzet voor een specifiek doel, de plichten voor risicobeheer en menselijk toezicht draagt. Voor een sleutelgebruiker is dat de kern van de v0.2-aanvulling: het doel dat je in je instructies vastlegt, bepaalt mee of een AI Companion in een hoog-risicogebied terechtkomt.

In de bronnenclip Bronnen bij hoofdstuk 11 licht Pascal toe waar de lessen van dit hoofdstuk op steunen.

Je voortgang blijft alleen in deze browser.