Hoofdstuk 6. AI en de samenleving
Bronnen bij hoofdstuk 6
Je ziet op welk onderzoek de lessen van hoofdstuk 6 steunen, en waarom je ook bij die bronnen kritisch blijft lezen.
Lees het transcript
Hoi! Fijn dat je er weer bent. De lessen in hoofdstuk 6 bouwen op onderzoek en op officiële bronnen. In deze clip zie je per les waar het op steunt.
Bij les 6.1 zagen Brynjolfsson en collega's, 2025, dat een AI-assistent ruim 5.000 klantenservicemedewerkers gemiddeld 15 procent productiever maakte. Beginners gingen het meest vooruit, ervaren medewerkers nauwelijks. Eloundou en collega's, 2024, schatten welke banen taalmodellen kunnen raken. Dat is een schatting van mogelijke impact, geen gemeten banenverlies. Bij les 6.2 vonden Hofmann en collega's, 2024, verborgen vooroordelen in taalmodellen over sprekers van Afro-Amerikaans Engels, terwijl hun openlijke uitspraken positief waren. Liang en collega's, 2023, zagen dat AI-detectoren teksten van niet-moedertaalsprekers van het Engels vaak ten onrechte als AI-tekst aanmerkten.
Bij les 6.3 bespreekt jurist Quintais, 2025, hoe de AI-verordening en het auteursrecht samenhangen. Een eerlijke vergoeding voor makers is nog niet goed geregeld. De Autoriteit Persoonsgegevens meldde in 2024 datalekken doordat medewerkers gegevens van patiënten en klanten in een AI-chatbot zetten. Bij les 6.4 onderscheiden Fratini en collega's, 2024, op basis van 271 artikelen vier modellen van digitale soevereiniteit. Dat helpt begrijpen waarom het uitmaakt waar een AI-dienst draait. De Autoriteit Persoonsgegevens waarschuwde in 2025 voor een chatbot die je gegevens in China opslaat. Bij les 6.5 deelt de Europese AI-verordening, 2024, AI in naar risico, met onderwijs als hoog-risicodomein. In 2026 is ze gewijzigd door de digitale omnibus. Het raamwerk van UNESCO voor leerlingen, 2024, noemt kritisch en ethisch oordelen over AI expliciet als competentie.
Onderzoek naar AI gaat snel, en bronnen kunnen elkaar soms tegenspreken. Blijf daarom zelf kritisch lezen, ook bij de bronnen die wij kiezen.
De volledige bronnenlijst met links staat bij deze les op academy.civai.eu. Lees gerust een bron die je nieuwsgierig maakt. Veel succes, en tot in de volgende les!
Alle bronnen van hoofdstuk 6
Les 6.1 Wie wint en wie verliest
- Brynjolfsson, E., Li, D., & Raymond, L. (2025). Generative AI at work. The Quarterly Journal of Economics, 140(2), 889–942. https://doi.org/10.1093/qje/qjae044 (opent in een nieuw tabblad)Bij ruim 5.000 klantenservicemedewerkers verhoogde een AI-assistent de productiviteit gemiddeld met 15 procent, waarbij minder ervaren medewerkers het meest vooruitgingen en de meest ervaren medewerkers nauwelijks sneller werden en iets aan kwaliteit inleverden. Dat laat in één toepassing zien dat de gevolgen per groep mensen verschillen, precies wat deze les vraagt.
- Eloundou, T., Manning, S., Mishkin, P., & Rock, D. (2024). GPTs are GPTs: Labor market impact potential of LLMs. Science, 384(6702), 1306–1308. https://doi.org/10.1126/science.adj0998 (opent in een nieuw tabblad)De auteurs schatten dat bij ongeveer 1,8 procent van de banen meer dan de helft van de taken door taalmodellen geraakt kan worden, en dat dit oploopt tot ruim 46 procent als je aanvullende software meerekent. Het geeft de les een breder beeld van welke beroepen geraakt worden, met de kanttekening dat het om een schatting van mogelijke impact gaat en niet om gemeten banenverlies.
Les 6.2 Vooroordelen in AI
- Hofmann, V., Kalluri, P. R., Jurafsky, D., & King, S. (2024). AI generates covertly racist decisions about people based on their dialect. Nature, 633(8028), 147–154. https://doi.org/10.1038/s41586-024-07856-5 (opent in een nieuw tabblad)Taalmodellen bleken verborgen vooroordelen te hebben over sprekers van Afro-Amerikaans Engels en adviseerden hen vaker voor minder aanzienlijke banen en vaker tot veroordeling, terwijl de openlijke uitspraken van dezelfde modellen juist positief waren. Dat laat zien dat vooroordelen uit trainingsdata kunnen komen en niet altijd zichtbaar zijn aan de oppervlakte.
- Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), Artikel 100779. https://doi.org/10.1016/j.patter.2023.100779 (opent in een nieuw tabblad)AI-detectoren bestempelden teksten van niet-moedertaalsprekers van het Engels vaak ten onrechte als door AI geschreven. Het is een herkenbaar voorbeeld uit het onderwijs van hoe een AI-systeem bepaalde groepen benadeelt.
Les 6.3 Data, privacy en auteursrecht
- Quintais, J. P. (2025). Generative AI, copyright and the AI Act. Computer Law & Security Review, 56, Artikel 106107. https://doi.org/10.1016/j.clsr.2025.106107 (opent in een nieuw tabblad)Deze UvA-jurist bespreekt hoe de AI-verordening en het Europese auteursrecht samenhangen bij het trainen van AI, waaronder het recht van makers om bezwaar te maken (opt-out) tegen het gebruik van hun werk, en concludeert dat vooral een eerlijke vergoeding voor makers nog niet goed geregeld is. Dat geeft de les het Europese kader om te beoordelen of je werk van anderen in AI mag gebruiken.
- Autoriteit Persoonsgegevens. (2024, 6 augustus). Let op: gebruik AI-chatbot kan leiden tot datalekken. https://www.autoriteitpersoonsgegevens.nl/actueel/let-op-gebruik-ai-chatbot-kan-leiden-tot-datalekken (opent in een nieuw tabblad)De AP meldt datalekken doordat medewerkers persoonsgegevens van bijvoorbeeld patiënten en klanten in een AI-chatbot invoerden, en wijst erop dat de meeste aanbieders alles opslaan wat je invoert. Dat maakt concreet waarom je gegevens van anderen niet zomaar in AI mag zetten.
Les 6.4 Wie heeft jouw data?
- Fratini, S., Hine, E., Novelli, C., Roberts, H., & Floridi, L. (2024). Digital sovereignty: A descriptive analysis and a critical evaluation of existing models. Digital Society, 3(3), Artikel 59. https://doi.org/10.1007/s44206-024-00146-7 (opent in een nieuw tabblad)Op basis van 271 peer-reviewed artikelen onderscheiden de auteurs vier modellen van digitale soevereiniteit (gericht op rechten, op de markt, op centrale controle en op de staat) en concluderen dat geen enkel model regulering en snelheid van innovatie goed combineert. Het helpt studenten begrijpen waarom het uitmaakt in welk land en onder welke regels een AI-dienst draait.
- Autoriteit Persoonsgegevens. (2025, 3 februari). AP: pas op met gebruik chatbot DeepSeek. https://www.autoriteitpersoonsgegevens.nl/actueel/ap-pas-op-met-gebruik-chatbot-deepseek (opent in een nieuw tabblad)De AP waarschuwt dat gegevens en vragen die je in deze chatbot invoert in China worden opgeslagen, dat doorgifte buiten de EU alleen onder strenge voorwaarden mag, en dat wie gegevens van anderen uploadt daarvoor aansprakelijk kan zijn. Het is een actueel Nederlands voorbeeld van waarom de locatie van een AI-dienst ertoe doet.
Les 6.5 Een onderbouwd oordeel
- Europees Parlement & Raad van de Europese Unie. (2024). Verordening (EU) 2024/1689 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (verordening artificiële intelligentie). Publicatieblad van de Europese Unie, L, 12 juli 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj (opent in een nieuw tabblad)De AI-verordening deelt AI-toepassingen in naar risico en stelt eisen aan onder meer transparantie, menselijk toezicht en datakwaliteit, met onderwijs als een van de hoog-risicodomeinen. Dat geeft studenten een officieel kader voor hun eigen oordeel; let op dat de verordening in 2026 is gewijzigd door Verordening (EU) 2026/1744 (digitale omnibus), die onder meer de ingangsdatum voor hoog-risicosystemen verschuift.
- Miao, F., & Shiohira, K. (2024). AI competency framework for students. UNESCO. https://doi.org/10.54675/JKJB9835 (opent in een nieuw tabblad)Het UNESCO-raamwerk beschrijft twaalf AI-competenties voor leerlingen in vier dimensies, waaronder een mensgerichte houding en ethiek van AI, op de niveaus begrijpen, toepassen en creëren. Het ondersteunt deze les omdat kritisch en ethisch oordelen over AI-toepassingen er expliciet als competentie in staat.