Hoofdstuk 11. Zelf AI Companions bouwen
Bronnen bij hoofdstuk 11
Je ziet op welk onderzoek en welke regels de lessen van hoofdstuk 11 steunen, en waarom je ook bij die bronnen kritisch blijft lezen.
De video laadt pas als je op afspelen klikt. YouTube draait dan in de privacyvriendelijke modus.
Lees het transcript
Hoi! Fijn dat je er weer bent. De lessen in hoofdstuk 11 bouwen op onderzoek naar mensen die zelf met AI bouwen, en op de regels die daarbij horen. Onderzoek naar ambtenaren die zelf assistenten bouwen, is er nog niet. In deze clip zie je per les waar het op steunt.
Bij les 11.1 zagen Liu en collega's, 2023, dat de grootste drempel is om je wens te verwoorden op een niveau dat het taalmodel kan uitvoeren. Bij les 11.2 probeerden mensen zonder AI-achtergrond instructies lukraak uit, en trokken ze te snel conclusies, volgens Zamfirescu-Pereira en collega's, 2023. Teichmann, 2026, betoogt dat wie AI aanpast of inzet voor een specifiek doel, de plichten voor risicobeheer en toezicht draagt. Bij les 11.3 beschrijven Barnett en collega's, 2024, zeven punten waarop antwoorden uit eigen documenten kunnen falen.
En Magesh en collega's, 2025, vonden dat juridische tools die in eigen bronnen zoeken, nog in 17 tot 33 procent van de gevallen informatie verzonnen. Bij les 11.4 merkten Shankar en collega's, 2024, dat mensen pas goed weten waaraan een antwoord moet voldoen als ze echte antwoorden beoordelen. Bij les 11.5 bleek uit interviews van Ma en collega's, 2025, dat gebruikers en makers slecht zien waar hun gegevens naartoe gaan. En Ogundoyin en collega's, 2025, zagen dat bij 92 procent van bijna 15.000 zelfgebouwde chatbots van OpenAI de verborgen instructies konden uitlekken.
Onderzoek naar AI gaat snel, en bronnen kunnen elkaar soms tegenspreken. Blijf daarom zelf kritisch lezen, ook bij de bronnen die wij kiezen.
De volledige bronnenlijst met links staat bij deze les op academy.civai.eu. Lees gerust een bron die je nieuwsgierig maakt. Veel succes, en tot in de volgende les!
Alle bronnen van hoofdstuk 11
Les 11.1 Van taak naar AI Companion
- Liu, M. X., Sarkar, A., Negreanu, C., Zorn, B., Williams, J., Toronto, N., & Gordon, A. D. (2023). "What it wants me to say": Bridging the abstraction gap between end-user programmers and code-generating large language models. In Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems (pp. 1–31). ACM. https://doi.org/10.1145/3544548.3580817 (opent in een nieuw tabblad)Dit onderzoek bij mensen zonder programmeerachtergrond laat zien dat de grootste drempel is om je wens te verwoorden op een niveau dat het taalmodel kan uitvoeren. Daarom begint een eigen AI Companion bij een scherp omschreven, terugkerende taak uit je team, en niet bij de techniek.
Les 11.2 Instructies en grenzen
- Zamfirescu-Pereira, J. D., Wong, R. Y., Hartmann, B., & Yang, Q. (2023). Why Johnny can't prompt: How non-AI experts try (and fail) to design LLM prompts. In Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems (pp. 1–21). ACM. https://doi.org/10.1145/3544548.3581388 (opent in een nieuw tabblad)Mensen zonder AI-achtergrond die een chatbot moesten instrueren, probeerden opdrachten lukraak in plaats van systematisch te verbeteren en generaliseerden te snel uit één goed antwoord. Dat is de reden om instructies voor een AI Companion op te bouwen uit doel, toon en expliciete grenzen, en ze daarna gericht te testen.
- Teichmann, F. (2026). General-purpose AI under the EU AI Act: A conceptual allocation of duties across the value chain. SCRIPTed: A Journal of Law, Technology & Society, 23(1), 24–57. https://doi.org/10.2218/scrip.12300 (opent in een nieuw tabblad)Dit artikel ordent de rollen in de AI-keten (makers van basismodellen, partijen die aanpassen of integreren, en gebruiksverantwoordelijken) en betoogt dat wie AI aanpast of inzet voor een specifiek doel, de plichten voor risicobeheer en menselijk toezicht draagt. Voor een sleutelgebruiker is dat de kern van de v0.2-aanvulling: het doel dat je in je instructies vastlegt, bepaalt mee of een AI Companion in een hoog-risicogebied terechtkomt.
Les 11.3 Eigen kennis toevoegen
- Barnett, S., Kurniawan, S., Thudumu, S., Brannelly, Z., & Abdelrazek, M. (2024). Seven failure points when engineering a retrieval augmented generation system. In Proceedings of the IEEE/ACM 3rd International Conference on AI Engineering: Software Engineering for AI (pp. 194–199). ACM. https://doi.org/10.1145/3644815.3644945 (opent in een nieuw tabblad)Uit drie praktijkcasussen halen de auteurs zeven punten waarop een systeem dat antwoorden haalt uit eigen documenten kan falen, en concluderen dat je zo'n systeem pas echt kunt valideren tijdens gebruik. Daarom controleer je in deze les met eigen vragen of de AI Companion de toegevoegde documenten goed vindt en juist gebruikt.
- Magesh, V., Surani, F., Dahl, M., Suzgun, M., Manning, C. D., & Ho, D. E. (2025). Hallucination-free? Assessing the reliability of leading AI legal research tools. Journal of Empirical Legal Studies, 22(2), 216–242. https://doi.org/10.1111/jels.12413 (opent in een nieuw tabblad)Deze studie (ook gebruikt bij les 7.1) laat zien dat juridische tools die in eigen bronnen zoeken minder verzinnen dan een algemene chatbot, maar nog steeds in 17 tot 33 procent van de gevallen fout gaan. Eigen kennis toevoegen maakt een AI Companion beter, maar niet foutloos.
Les 11.4 Testen met collega's
- Shankar, S., Zamfirescu-Pereira, J. D., Hartmann, B., Parameswaran, A., & Arawjo, I. (2024). Who validates the validators? Aligning LLM-assisted evaluation of LLM outputs with human preferences. In Proceedings of the 37th Annual ACM Symposium on User Interface Software and Technology (pp. 1–14). ACM. https://doi.org/10.1145/3654777.3676450 (opent in een nieuw tabblad)De onderzoekers ontdekten dat mensen pas goed weten waaraan een antwoord moet voldoen als ze echte antwoorden beoordelen, een verschijnsel dat ze criteria drift noemen. Daarom laat je collega's de AI Companion met echte vragen uit hun werk testen en scherp je daarna samen de instructies en criteria aan.
Les 11.5 Delen en beheren
- Ma, R., Maidhof, C., Carrillo, J. C., Lindqvist, J., & Such, J. (2025). Privacy perceptions of custom GPTs by users and creators. In Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (pp. 1–18). ACM. https://doi.org/10.1145/3706598.3713540 (opent in een nieuw tabblad)In interviews met 23 gebruikers en makers van eigen GPT's bleek dat de grens tussen maker en gebruiker vaag is en dat mensen slecht begrijpen waar hun gegevens naartoe gaan. Wie een AI Companion deelt via de Agent Marktplaats, legt daarom vast wie eigenaar is, welke documenten erin zitten en wat er met invoer gebeurt.
- Ogundoyin, S. O., Ikram, M., Asghar, H. J., Zhao, B. Z. H., & Kaafar, D. (2025). Unsafe by design? A first look at security and privacy risks in OpenAI's custom GPT ecosystem. In Proceedings of the 24th Workshop on Privacy in the Electronic Society (pp. 147–161). ACM. https://doi.org/10.1145/3733802.3764054 (opent in een nieuw tabblad)Van 14.904 onderzochte openbare GPT's had ruim 95 procent onvoldoende bescherming, en 92 procent was kwetsbaar voor het uitlekken van de verborgen instructies. Dat is een goede reden om in een gedeelde AI Companion geen vertrouwelijke informatie in de instructies te zetten en het onderhoud expliciet te beleggen.