DRIE RANDVOORWAARDEN EN ÉÉN UITGANGSPUNT VOOR VERANTWOORDE AI IN HET ONDERWIJS
Kunstmatige intelligentie belooft veel te gaan veranderen. Sommige mensen vrezen een dystopische wereld waarin de mens onderworpen is aan de wil van de machine, terwijl anderen een toekomst voor zich zien waarin de vier-urige werkweek eindelijk realiteit wordt.
In het onderwijs bevinden docenten en schoolleiders zich in beide kampen. De potentie van AI om het onderwijs te personaliseren is enorm. Tegelijkertijd waarschuwt de Autoriteit Persoonsgegevens voor het risico van toenemende kansenongelijkheid en datalekken.
In plaats van te speculeren over de toekomst van AI, moet de discussie zich richten op de randvoorwaarden. Hoe kunnen we de potentie benutten en de risico’s beperken?
“AI is geen toverstaf die alle problemen kan oplossen; het is een instrument.”
Het uitgangspunt voor alle AI-toepassingen, ook in het onderwijs, moet zijn dat het een middel is om een specifieke taak uit te voeren; geen doel op zich. Daarnaast zijn er drie randvoorwaarden:
docenten hebben volledige controle over het curriculum;
docenten kunnen de instellingen van de AI-toepassing kiezen; en
het personaliseren van informatieaanbod gebeurt niet op basis van profielen van leerlingen.
UITGANGSPUNT: AI ALS MIDDEL
AI is geen toverstaf die alle problemen kan oplossen; het is een instrument. Hoewel veelzijdig, werkt het het beste wanneer duidelijk is voor welk doel het wordt ingezet.
AI kan worden gebruikt voor specifieke taken, zoals het vergelijken van antwoorden van leerlingen en docenten om te controleren of ze in essentie hetzelfde zeggen, het genereren van varianten op meerkeuzevragen, of het samenvatten van misconcepties in de gegeven antwoorden van leerlingen. In al deze toepassingen dient AI als een assistent voor de docent bij het uitvoeren van een zeer specifieke taak.
Deze toepassingen verschillen sterk van bijvoorbeeld een chatbot die zonder tussenkomst van een docent uitleg geeft aan leerlingen. In zo’n geval geeft de docent de controle over het didactische proces volledig uit handen.
“Als je geen controle over de inhoud hebt, dan kan het misgaan”
RANDVOORWAARDE 1: DOCENT BEPAALT CURRICULUM EN DIDACTIEK
Naast inhoudelijke kennis hebben docenten expertise in didactiek. Het kiezen van het curriculum en het bepalen van de didactiek moet in handen van de docenten liggen. Door het curriculum te kiezen, stelt de docent als het ware doelen voor de leerlingen vast. Hierbij maakt de docent bewuste keuzes met betrekking tot leerdoelen, rekening houdend met andere leerdoelen binnen het vakgebied en de onderlinge verbanden.
AI kan worden ingezet om docenten suggesties te geven over welke leerdoelen nog meer bij het curriculum passen. De docent behoudt echter de controle over het accepteren of afwijzen van deze suggesties. Ook kan de docent ervoor kiezen om de volgorde van leerdoelen door AI te laten suggereren, waarbij opnieuw de keuze bij de docent ligt om deze suggesties al dan niet te accepteren. In beide gevallen gebruikt de docent AI als een assistent bij het samenstellen van het curriculum, voordat het gedeeld wordt met leerlingen.
Dit verschilt sterk van een AI systeem dat alleen een vaag omschreven onderwerp meekrijgt en vervolgens zelf ‘aan de slag’ gaat met een leerling. In dat geval kan het namelijk zo zijn dat bepaalde leerlingen meer worden uitgedaagd dan anderen, wat het risico op kansenongelijkheid vergroot.
Als je geen controle over de inhoud hebt, dan kan het misgaan. Na de introductie van de customer service AI-chatbot bij Chevrolet is de volgende screenshot vaak online gedeeld
De chatbot is bedoeld om klanten te helpen met vragen over hun auto. Iemand kwam op het idee om de chatbot te vragen naar het oplossen van natuurkundige vergelijkingen met Python. De chatbot gaf vervolgens vrolijk antwoord op deze vraag.
Dit scenario kan zich ook voordoen als je een AI-toepassing aan leerlingen geeft zonder dat de docent van tevoren heeft bepaald welke informatie de leerlingen kunnen zien.
AI kan wel worden ingezet voor gerichte diagnoses als een leerling vastloopt bij een van de leerdoelen binnen de selectie van leerdoelen die zijn vastgesteld door de docent. De leerling wordt dan geholpen bij de specifieke taak om het huidige leerdoel te begrijpen voordat het volgende wordt getoond.
RANDVOORWAARDE 2: DOCENT BEPAALT DE INSTELLINGEN VAN DE AI-TOEPASSING
Docenten moeten de mogelijkheid hebben om te kiezen op welke manier zij AI willen inzetten. Het is nodig om het gedrag van AI enigszins te kunnen sturen, bijvoorbeeld bij het nakijken van antwoorden van leerlingen.
Het kunnen kiezen van instellingen betekent dat de docent bepaalt waar het algoritme zich op moet richten. Als deze instellingen alleen door ontwikkelaars kunnen worden bepaald, ontstaat het risico dat de belangen van de organisatie achter de AI-toepassing niet overeenkomen met die van de docent.
Het doel is dat de docent niet zelf een model traint, maar bewust de instellingen bepaalt en test wat een leerling te zien zou krijgen voordat het instrument aan de leerlingen wordt aangeboden.
RANDVOORWAARDE 3: ADVIES OP BASIS VAN INHOUD EN NIET VAN LEERLINGPROFIEL
De belofte van AI is dat hoe meer het algoritme van je weet, des te meer gepersonaliseerd de adviezen zijn. Hoewel dit positief klinkt, brengt het risico’s met zich mee. Er zijn talloze voorbeelden waar slecht getrainde AI-modellen bestaande stereotypen bevatten en zo kansenongelijkheid vergroten. Opgeslagen profielen vergroten bovendien de impact van een eventueel datalek. Het risico op een datalek bestaat bij elke opgeslagen dataset, maar de impact is groter wanneer gedetailleerde gedragsprofielen van leerlingen openbaar worden.
In plaats van persoonsgegevens naar het model te sturen, moet alleen informatie gebruikt worden die noodzakelijk is voor het specifieke doel. Denk bijvoorbeeld aan een nakijk-toepassing. In zo’n geval zijn de enige relevante gegevens het correcte antwoord, het gegeven antwoord en eventueel de vraag. Het is niet relevant wie de vraag beantwoordt, hoe lang die gene erover gedaan heeft, hoe laat het was, etc. Inhoudelijke gegevens kunnen dan bijdragen aan het verbeteren van onder andere de kwaliteit van de feedback en het bepalen van de effectiviteit van de lesstof.
Als docenten en schoolleiders AI als een instrument gaan zien, controle over de inhoud en didactische proces niet uit handen geven aan een black-box systeem, bewust kiezen voor systemen waar docenten de AI-toepassing enigszins kunnen sturen en “nee!” zeggen tegen toepassingen waarbij leerlinggegevens gebruikt worden om leerlingen te profileren, dan kunnen we hopelijk op een veilige manier de vruchten plukken van deze waanzinnige technologie.
