Verantwoord AI-gebruik in het onderwijs

Voor dit onderzoek zijn een aantal interviews afgenomen om meer zicht te krijgen op de mogelijkheden en risico’s van het gebruik van algoritmen in het onderwijs. Wij waren een van de stakeholders waarmee gesprekken zijn gevoerd. Bij CitoLab zien we zowel de waarde als de uitdagingen van het gebruik van algoritmen in het onderwijs. In onze toepassingen vinden we het belangrijk dat bij het gebruik van algoritmen:

• .. deze goed gevalideerd zijn voor de context waarin deze worden ingezet.
• .. duidelijk is op basis van welke data het algoritme beslissingen maakt.
• .. oog is voor de gevolgen die een (verkeerde) beslissing van het algoritme kan hebben.

Om dit te waarborgen, voeren we bij CitoLab onderzoek uit naar de toepassing van algoritmen in het onderwijs. Een voorbeeld hiervan is ons onderzoek naar het automatisch nakijken van open vragen met behulp van slimme algoritmen en taalmodellen. Hierbij zorgen wij ervoor dat de docent altijd de controle behoudt en waar nodig wordt ondersteund door AI. Onze methode richt zich niet alleen op het correct nakijken van antwoorden, maar besteedt ook veel aandacht aan de gevallen waarin het algoritme niet in staat is om een juiste beslissing te maken. Dit helpt ons om de kans op foutieve beslissingen te minimaliseren. Ook zijn we actief in gesprek met het onderwijsveld om de ethische aspecten van automatisch nakijken met AI te bespreken.

Meer weten?

Lees meer over Cito AI én meld je aan voor het eerstvolgende event Bekijk het onderzoeksrapport 'Algoritmen in het onderwijs' Lees het NOS nieuwsartikel ‘Meer kennis algoritmen nodig op scholen, ‘anders risico op discriminatie’’