VO-raad: geen AI bij nakijken centraal examens

Onlangs hebben landelijke nieuwsmedia aandacht gegeven aan de vraag of het toegestaan is om AI te gebruiken bij het nakijken van leerlingwerk. Formele toetsen op school vallen uiteen in drie categorieën: voortgangstoetsen, schoolexamens en centrale examens. We gaan hier alleen in op het centraal schriftelijk examen, omdat hier sprake is van landelijke toetsen, van landelijk voorgeschreven beoordelingsmodellen en normering, en van twee correctoren, waarvan de tweede niet door de school zelf is aangesteld.

In een nieuwsbericht van de NOS wordt vermeld dat: “de school verantwoordelijk blijft voor de beoordeling van het werk van de leerlingen” en dat de "algemene lijn is dat de verantwoordelijkheid voor het nakijken en hoe dit te doen bij de school en de corrector ligt". Dat klopt in zijn algemeenheid, maar gaat onvoldoende in op de eisen en regels die samenhangen met landelijke toetsing met voorschriften voor de beoordelingsprocedure. Specifiek voor het centraal examen geldt dat er voor elk vak een correctievoorschrift is. De docent moet deze voorschriften opvolgen.

De rol van de AI wetgeving & AVG

Bij het gebruik van AI-software moet deze voldoen aan nationale en Europese wetgeving – waaronder de AVG en de trapsgewijs ingevoerde AI verordening (AI Act). Vanuit deze AI Act wordt AI software ingedeeld in verschillende categorieën – waaronder de categorie hoog-risico toepassingen. Twee onderwerpen die in deze categorie vallen, zijn het evalueren van leerresultaten en het beoordelen van het onderwijsniveau. Hoewel de AI Act trapsgewijs wordt ingevoerd en nog niet alle reglementen volledig van pas zijn, raadt de VO-raad om zeer terughoudend te zijn met de inzet van AI-nakijksoftware in het algemeen. Dit geldt helemaal voor het nakijken van centrale examens, tenzij zowel de leverancier als de school kan garanderen dat zij volledig kan voldoen aan deze AI-wetgeving.

Daarnaast dienen de antwoorden op examenvragen, het examenwerk van de leerling, volgens de AVG beschouwd te worden als persoonsgegevens, ook als de naam van de leerling wordt geanonimiseerd. Het gebruik van persoonsgegevens in een AI-tool is aan de AVG gebonden. Scholen mogen alleen gebruikmaken van AI-aanbieders (verwerkers) als deze aantoonbaar voldoen aan de AVG en als zij daarmee een verwerkersovereenkomst hebben gesloten. Belangrijke AVG-voorwaarden zijn transparantie, veiligheid (van de gegevensverwerking), dataminimalisatie en verwerking van de data (de antwoorden van de leerling) voor andere doeleinden zoals training van AI-tools.

Op dit moment lijken er binnen Europa vooralsnog geen (gratis) AI-nakijktools voor de centrale examens voorhanden die volledig voldoen aan de wetgeving – waaronder de AVG en AI Act. Op grond hiervan adviseert de VO-raad met nadruk om geen gebruik te maken van AI-tools bij de correctie van de centrale schriftelijke examens, ook al is het juridisch gesproken niet voor iedere AI-tool verboden.

Dit advies geldt zowel voor de eerste als voor de tweede corrector. De beoordeling en vaststelling van de score komt tot stand op basis van de beoordeling door twee correctoren en vaststelling in onderling overleg van de score. Daarin hebben beide correctoren en gelijke inbreng.

Meer weten over AI wetgeving?

Wilt u meer weten over de AI wetgeving? SIVON heeft eerder deze maand haar Toetsingskader AI gepubliceerd. Hiermee kunnen scholen en leveranciers beter inzichtelijk krijgen wat er van hen verwacht wordt om aan de AI verordening te voldoen. SIVON organiseert op woensdag 21 mei een webinar voor scholen over dit Toetsingskader en de AI Act.