EduGPT Academy

Hoofdstuk 1. AI begrijpen en herkennen

Les 1.5 Waarom AI fouten maakt

Kennisclip 1:52 EduGPT - Leerling MAILS Begrijpen AILit Engage
Wat je in deze les laat zien

Je vindt in een AI-antwoord een verzonnen feit of bron, en legt uit hoe zo'n fout ontstaat.

De video laadt pas als je op afspelen klikt. YouTube draait dan in de privacyvriendelijke modus.

Lees het transcript

Hoi! Fijn dat je er weer bent. Je vraagt een chatbot iets voor je spreekbeurt, en krijgt een keurig antwoord met jaartallen. Alleen: een paar feiten kloppen niet. In deze les vind je zo'n verzonnen feit, en leg je uit hoe die fout ontstaat.

Weet je nog? Een taalmodel voorspelt welk woord goed past, niet wat waar is. Een jaartal of getal klinkt al snel goed, dus kan het model het makkelijk verzinnen. Het haalt ook dingen door elkaar, zoals de eerste en de laatste maanlanding. Dat heet hallucineren: het klinkt zeker, maar het klopt niet. Daarom check je een feit altijd zelf, in een betrouwbare bron.

Laten we het proberen in EduGPT, met EduGPT Leerling. Een andere chatbot zei: Armstrong landde in 1972 op de maan, en de maan staat 38.000 kilometer ver. Ik vraag EduGPT om hulp bij het checken. Het zegt: zoek die twee dingen apart op, bij NASA. Bij NASA vind ik: de landing was in 1969, en de maan staat ongeveer 384.000 kilometer ver. Allebei fout dus. Mijn uitleg: de chatbot voorspelt een getal dat goed klinkt, maar checkt niet of het waar is. EduGPT zegt: je uitleg is sterk. En waarom is NASA hier betrouwbaarder dan een losse chatbot?

En wat gaat er vaak mis? We geloven een feit, omdat het zo zeker klinkt. Maar zeker klinken is iets anders dan kloppen. Zoek een jaartal, een getal of een naam dus altijd zelf op.

Nu ben jij aan de beurt. Neem een AI-antwoord met een feit. Zoek het op in een boek of op een goede website, en leg uit hoe de fout ontstond. Bespreek je controle met EduGPT, via de opdracht onder deze video. Veel succes, en tot in de volgende les!

Probeer het in EduGPT

  1. Neem een antwoord van een chatbot met een feit erin. Bijvoorbeeld een jaartal, een getal of een naam voor je spreekbeurt of werkstuk. Je mag ook dit voorbeeld nemen. Een chatbot zei: "De Eiffeltoren is in 1925 gebouwd en is 200 meter hoog."
  2. Zoek het feit zelf op in een betrouwbare bron, zoals een boek, Wikikids, de bieb of de website van een museum.
  3. Schrijf op wat je vond. Leg in één of twee zinnen uit hoe zo'n fout kan ontstaan.
  4. Open EduGPT, kies EduGPT - Leerling en verstuur de tekst hieronder.

Ik heb een feit uit een AI-antwoord gecontroleerd. Bespreek mijn controle en mijn uitleg, en stel me vragen waar het beter kan. Geef me niet meteen het goede antwoord. Wat de chatbot zei: ... Wat ik vond, en waar: ... Hoe de fout volgens mij ontstaat: ...

  1. Beantwoord minstens één vraag die EduGPT terugstelt, en verbeter daarna je uitleg.
  2. Vraagt EduGPT eerst om "1 aanname en 1 vraag"? Schrijf dan in één zin wat volgens jou klopt, en stel één vraag over je bron.

Waar doe je deze opdracht?

Via je school of opleiding

Heb je EduGPT via je school of opleiding? Log in via de link die je daar hebt gekregen en kies EduGPT - Leerling.

EduGPT voor je school

Wil je EduGPT met je team of je leerlingen gebruiken? Dan regelt je school het, met de privacyafspraken die daarbij horen. Gebruik voor je voorbereiding geen gegevens van leerlingen buiten die afspraken.

EduGPT voor je school (opent in een nieuw tabblad) Kosteloos proberen komt binnenkort

Geen toegang tot EduGPT?

Dan kun je de opdracht ook in je eigen AI-tool doen. We kunnen niet garanderen dat het daar net zo goed werkt als in EduGPT. Je mist bijvoorbeeld de Kritisch Denken Engine, die eerst vragen terugstelt in plaats van meteen het antwoord te geven.

Checkvragen

1. Een chatbot zegt dat Armstrong in 1972 op de maan landde. Bij NASA lees je 1969. Hoe ontstaat zo'n fout?
2. Een AI-antwoord klinkt heel zeker, maar het klopt niet. Hoe heet dat?
3. Een chatbot zegt dat de Eiffeltoren in 1925 is gebouwd. Je wilt dit in je werkstuk zetten. Wat doe je?
4. Waarom geloven we een verzonnen feit van AI vaak zo snel?
5. Welke dingen uit een AI-antwoord zoek je altijd zelf op?

Reflectie

Je antwoord blijft op dit scherm en wordt nergens opgeslagen.

Bronnen bij deze les

  • Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, Artikel 14045. https://doi.org/10.1038/s41598-023-41032-5 (opent in een nieuw tabblad)
    Van 636 literatuurverwijzingen in door ChatGPT geschreven overzichten bleek 55 procent (GPT-3.5) en 18 procent (GPT-4) verzonnen, en ook de echte verwijzingen bevatten vaak inhoudelijke fouten, precies het voorbeeld van de verzonnen bron uit deze les.
  • Huang, L., Yu, W., Ma, W., Zhong, W., Feng, Z., Wang, H., Chen, Q., Peng, W., Feng, X., Qin, B., & Liu, T. (2025). A survey on hallucination in large language models: Principles, taxonomy, challenges, and open questions. ACM Transactions on Information Systems, 43(2), 1–55. https://doi.org/10.1145/3703155 (opent in een nieuw tabblad)
    Dit overzichtsartikel omschrijft hallucinatie als aannemelijke maar onjuiste inhoud en ordent de oorzaken ervan in de trainingsdata, de training en het genereren van tekst, wat de uitleg ondersteunt hoe zo'n fout ontstaat.

In de bronnenclip Bronnen bij hoofdstuk 1 licht Pascal toe waar de lessen van dit hoofdstuk op steunen.

Je voortgang blijft alleen in deze browser.