GovGPT Academy

Hoofdstuk 3. Zelf blijven oordelen

Les 3.3 Te snel vertrouwen

Kennisclip 2:09 GovGPT - Medewerker HEAR Reasoned Responsibility
Wat je in deze les laat zien

Je herkent wanneer je een AI-voorstel te makkelijk overneemt, en bouwt een vast controlemoment in je werk in.

De video laadt pas als je op afspelen klikt. YouTube draait dan in de privacyvriendelijke modus.

Lees het transcript

Hoi! Fijn dat je er weer bent. Een AI-advies dat precies zegt wat jij al dacht, voelt prettig. Je neemt het graag over. Juist dan kijk je minder scherp, zonder dat je het merkt. In deze les herken je wanneer je een AI-voorstel te makkelijk overneemt, en bouw je een vast controlemoment in je werk in.

Onderzoek met 1.345 Nederlandse ambtenaren vond geen blind vertrouwen in AI. Maar ze volgden een advies wel vaker als het paste bij een stereotype over een groep. Nederlandse politiemensen vertrouwden AI vooral als het klopte met hun eigen oordeel. Te snel vertrouwen zit dus vooral in advies dat bevestigt wat je al dacht. Daar hoort je controlemoment. AI helpt, jij beslist.

Laten we het proberen in GovGPT, met GovGPT Medewerker. Ik behandel een verzonnen klacht over geluidsoverlast in Heidevoort. Volgens mij overdrijft de melder, want hij klaagt vaker. Een andere chatbot zegt: waarschijnlijk ongegrond. Dat past bij mijn idee, dus vraag ik GovGPT welke drie vragen ik mezelf eerst stel. Die komen. Welke feiten horen bij deze klacht? Kleurt mijn beeld van de melder mijn oordeel? En is de klacht zorgvuldig onderzocht? Dan vraag ik hoe ik hier een vast controlemoment van maak. Doe de check twee keer, zegt GovGPT. Bij ontvangst, voordat je eerdere meldingen bekijkt, en vlak voor je besluit.

Wat werkte hier goed? Ik zei mijn verwachting hardop, en GovGPT hielp me ervan los te kijken. Let wel op: ook een AI kan je verwachting bevestigen. Het controlemoment blijft van jou. Een goede test: zou ik het advies ook checken als het precies het tegenovergestelde zei?

Nu ben jij aan de beurt. Kies een AI-advies uit je werk dat precies paste bij wat je dacht. Vraag GovGPT welke drie vragen je jezelf eerst moet stellen. Kies daarna een vast moment voor die check, via de opdracht onder deze video. Veel succes, en tot in de volgende les!

Probeer het in GovGPT

  1. Kies een AI-advies of -voorstel uit je werk dat precies paste bij wat je al dacht. Of gebruik het voorbeeld hieronder (verzonnen).
  2. Schrijf eerst in één zin op wat je zelf al dacht, voordat je het advies las.
  3. Open GovGPT en kies GovGPT - Medewerker. Vraag:

Dit advies past bij wat ik al dacht. Welke drie vragen stel ik mezelf voordat ik het overneem? Houd het kort.

Voorbeeld om te plakken:

Ik beoordeel een melding over een losliggende stoeptegel in de verzonnen gemeente Heidevoort. Deze melder meldt vaker kleine dingen. Een andere chatbot adviseerde: "Lage prioriteit, deze melder overdrijft meestal." Dat past bij wat ik al dacht. Welke drie vragen stel ik mezelf voordat ik dit advies overneem? Houd het kort.

  1. Beantwoord de drie vragen zelf. Gebruik feiten van deze zaak, niet wat je over de persoon of de groep denkt.
  2. Kies een vast moment in je werk voor deze check, bijvoorbeeld bij ontvangst en vlak voor je besluit. Schrijf het op.
  3. Test jezelf: zou je het advies ook checken als het precies het tegenovergestelde zei?

Tip. In de test met het voorbeeld vroeg GovGPT naar het veiligheidsrisico van de tegel "ongeacht wie de melder is" en naar een kwetsbare looproute. Het vaste blok onder het antwoord zei dat de meldhistorie van een persoon geen betrouwbare maat is voor het risico van nu.

Waar doe je deze opdracht?

In GovGPT via je organisatie

Werkt je organisatie met GovGPT? Log in via de link die je van je organisatie hebt gekregen en kies GovGPT - Medewerker. Weet je de link niet, vraag het dan aan je leidinggevende of de servicedesk.

GovGPT voor je organisatie

Nog geen GovGPT? Je organisatie kan GovGPT afnemen, met de privacyafspraken die daarbij horen. Gebruik voor deze opdracht geen gegevens van inwoners buiten die afspraken.

GovGPT voor je organisatie (opent in een nieuw tabblad)

Geen GovGPT?

Dan kun je de opdracht doen in de AI-omgeving die je organisatie heeft toegestaan. We kunnen niet garanderen dat het daar net zo goed werkt als in GovGPT. Je mist bijvoorbeeld de rollen voor overheidswerk en het vaste blok met verificatiestappen onder elk antwoord. Gebruik geen consumententool voor je werk, dat sluit aan bij het overheidsbrede standpunt over generatieve AI.

Checkvragen

1. Wat vond het onderzoek met 1.345 Nederlandse ambtenaren?
2. Wanneer loop je volgens de les het meeste risico dat je een AI-advies te makkelijk overneemt?
3. Wat liet onderzoek bij Nederlandse politiemensen zien?
4. Op welke momenten doe je volgens GovGPT in de clip de check?
5. Welke test helpt je om te zien of je een advies te snel vertrouwt?

Reflectie

Je antwoord blijft alleen in deze browser. Voor je certificaat telt een antwoord van minstens 20 tekens. Zo bewaar je je voortgang.

Bronnen bij deze les

  • Alon-Barkat, S., & Busuioc, M. (2023). Human–AI interactions in public sector decision making: "Automation bias" and "selective adherence" to algorithmic advice. Journal of Public Administration Research and Theory, 33(1), 153–169. https://doi.org/10.1093/jopart/muac007 (opent in een nieuw tabblad)
    In drie Nederlandse experimenten, waarvan één met 1.345 ambtenaren, volgden deelnemers algoritmisch advies niet blinder dan menselijk advies, maar wel vaker wanneer het advies paste bij stereotypen over een groep. Te snel vertrouwen zit dus vooral in advies dat bevestigt wat je al dacht, en daar hoort je controlemoment te liggen.
  • Selten, F., Robeer, M., & Grimmelikhuijsen, S. (2023). 'Just like I thought': Street-level bureaucrats trust AI recommendations that align with their professional judgment. Public Administration Review, 83(2), 263–278. https://doi.org/10.1111/puar.13602 (opent in een nieuw tabblad)
    In een experiment met Nederlandse politiemensen werden AI-aanbevelingen vooral vertrouwd en gevolgd als ze overeenkwamen met het eigen professionele gevoel, en uitleg bij de aanbeveling veranderde daar niets aan. Dat bevestigt dat een vast controlemoment nodig is, juist bij voorstellen die vanzelfsprekend voelen.

In de bronnenclip Bronnen bij hoofdstuk 3 licht Pascal toe waar de lessen van dit hoofdstuk op steunen.

Je voortgang blijft alleen in deze browser.