Les 6.5 Een onderbouwd oordeel

Hoi! Fijn dat je er weer bent. Een nieuwe AI-toepassing klinkt vaak handig, snel en slim. Maar is hij ook betrouwbaar, veilig en eerlijk? In deze les beoordeel je een AI-toepassing op betrouwbaarheid, privacy, eerlijkheid en impact, en neem je een besluit.

Betrouwbaar: maakt de toepassing fouten, en hoe is dat getest? Privacy: welke gegevens gaan erin, waar blijven ze, en wordt ermee getraind? Eerlijk: worden sommige groepen benadeeld? En impact: wie wint er tijd, en wat gaat er verloren? De Europese AI-verordening rekent AI die in het onderwijs beoordeelt tot hoog risico, met eisen zoals menselijk toezicht. Daarna neem je een besluit: ja, nee, of ja onder voorwaarden.

Laten we het proberen in EduGPT, met EduGPT Student. Stel: mijn opleiding wil een AI-tool die essays automatisch een cijfer geeft. Die tool is verzonnen. Mijn eerste oordeel: AI is objectief, er staan geen namen in, en iedereen wordt hetzelfde beoordeeld. Besluit: invoeren. EduGPT noemt dat onbewezen aannames, en vraagt: wat als iedereen volgens dezelfde foute maatstaf wordt beoordeeld? Mijn nieuwe oordeel: eerst een proef, checken of studenten met Nederlands als tweede taal lager scoren, en de docent bepaalt het cijfer. EduGPT noemt het sterker, en vraagt: wanneer klopt de proef, en wie controleert de privacy?

En wat gaat er vaak mis? We oordelen op wat de aanbieder belooft, zonder bewijs. Of we kijken alleen naar tijdwinst, en vergeten wie er nadeel van heeft. Een goed oordeel noemt ook wat je nog niet weet.

Nu ben jij aan de beurt. Kies een AI-toepassing, op school, in je opleiding of op je werk. Beoordeel hem op de vier punten, en neem een besluit. Laat EduGPT je oordeel bevragen, via de opdracht onder deze video. Veel succes, en tot in de volgende les!