Enkele beperkingen van AI in het onderwijs | WilfredRubens.com over leren en ICT

Artificiële intelligentie heeft potentie voor leren, opleiden en onderwijs. In On the Limits of Artificial Intelligence (AI) in Education schetst hoogleraar Neil Selwyn van de Autralische Monash University echter een aantal kritische thema’s die volgens hem een prominentere plaats moeten krijgen in toekomstige discussies over AI in het onderwijs. Ik voorzie zijn bijdrage graag van commentaar. Deze blogpost sluit af met 65 verwijzingen naar andere bronnen over (generatieve) AI.

Dall-E:3D render of artificial intelligence on a hype cycle, on a dark purple background, digital art

Selwyn gaan eerst in op de enorme aandacht die sinds ruim een jaar uitgaat naar (generatieve) AI. Het voeren van evenwichtige en redelijke discussies over de maatschappelijke implicaties en uitdagingen van AI is daarmee best complex geworden, meent hij. Volgens de auteur zijn meer beredeneerde reacties op de educatieve mogelijkheden van AI noodzakelijk. Daarbij zouden docenten de meer extreme verwachtingen en angsten die het idee van AI-technologie oproept, moeten weerstaan.

Vervolgens schetst Neil Selwyn een aantal toepassingen van AI in het onderwijs, zoals online proctoring waarin bijvoorbeeld gezichtsherkenning wordt gebruikt voor authenticatie (hetgeen niet zonder problemen verloopt). Veel van de bestaande AI-toepassingen in het onderwijs vallen onder ‘narrow artificial intelligence’: AI ontworpen voor specifieke taken, zoals het beoordelen van essays of het voorspellen van studentengedrag. Ze worden verfijnd met trainingsgegevens over dit specifieke onderwijsgebied en herkennen patronen binnen vooraf gedefinieerde grenzen. Deze vormen van AI moeten worden gezien als geavanceerde vormen van statistische verwerking, die vragen oproepen over wat daadwerkelijk bereikt kan worden met deze technologieën in het onderwijs. De technologieën zijn niet echt intelligent en kunnen niet redeneren. Hij geeft ChatGPT als voorbeeld. Deze applicatie assembleert en herschikt bestaande tekstfragmenten van het internet op een statistisch waarschijnlijke manier, zonder ‘begrip’ of ‘kennis’ van wat de output betekent.

Het begrijpen van AI-technologie als een complexe statistische procedure (gebaseerd op enorme rekenkracht en gegevensverwerking) dwingt debatten over AI en onderwijs volgens Selwyn daarom om na te denken over enkele voor de hand liggende beperkingen van deze technologie die gewoonlijk niet worden erkend. Hij onderscheidt daarbij vier belangrijke zorgen over het gebruik van AI in het onderwijs.

De eerste zorg betreft de vraag of onderwijs adequaat kan worden weergegeven en gemodelleerd in data. Veel aspecten van onderwijs en leren kunnen volgens de auteur niet betrouwbaar in data gevangen worden. Dit is nog uitdagender bij het vastleggen van de complexiteit van een klaslokaal of sociale omstandigheden van een lerend. AI wordt steeds geavanceerder. Toch leiden pogingen om de context van het onderwijs in modellen te vangen, tot onnauwkeurige computergestuurde benaderingen.

De tweede zorg betreft de sociale schade door AI, zoals ongelijke en soms oneerlijke verdeling van informatie, middelen en kansen. Voorbeelden zijn geautomatiseerde beoordelingssystemen die hogere cijfers toekennen aan lerenden uit bevoorrechte situaties en stemherkenningsystemen die ‘non-native‘ sprekers onterecht beschuldigen van valsspelen. Volgens Selwyn is er nu een groeiend besef van de werkelijke schade en de negatieve gevolgen als gevolg van de inzet van AI-technologieën in een sociale omgeving. Verder stelt hij dat ook het meest ‘goedaardige’ gebruik van AI in een school- of klasomgeving waarschijnlijk reeds bestaande institutionele vormen van controle zullen verergeren en verankeren.

Een derde punt van zorg is dat onderwijs wordt aangepast aan de behoeften van AI. Dit leidt tot standaardisatie en beperking van het onderwijs. De meeste mensen zijn bereid om hun sociale wereld aan te passen aan technologieën, in plaats van dat zij verwachten dat technologie zich aanpast aan de sociale wereld. Selwyn geeft voorbeelden van docenten en lerenden die zich aanpassen aan AI-systemen, bijvoorbeeld door weinig betekenisvolle handelingen uit te voeren om aan algoritmische verwachtingen te voldoen.

Ten slotte is de impact van AI op het milieu en ecologie de vierde zorg. Het ontwikkelen van AI en het verwerken van veel data in korte tijd via opdrachten gaat volgens Selwyn met aanzienlijke ecologische en milieukosten. Hij presenteert diverse cijfers hierover en pleit voor een kritische heroverweging van het gebruik van AI in onderwijs, met aandacht voor ‘groene’ technologieën en alternatieve benaderingen die minder belastend zijn voor het milieu.

Neil Selwyn waarschuwt voor de hype rondom AI en stelt dat docenten niet passief moeten toegeven aan de technologische veranderingen, maar juist actief deel moeten nemen aan de vormgeving van deze ontwikkelingen in het onderwijs. Docenten worden vaak in een ondergeschikte rol geplaatst op basis van drie veelvoorkomende aannames: 1) de toenemende inzet van AI-hulpmiddelen in de klas is onvermijdelijk, 2) docenten moeten snel ‘AI-geletterd’ worden om optimaal gebruik te maken van deze technologieën, en 3) het onderwijssysteem moet zich radicaal aanpassen aan de mogelijkheden van AI.

Docenten moet volgens hem zelf de controle nemen en proactief de agenda’s rond AI in het onderwijs vormgeven. Neem het voortouw in discussies, wees kritisch over vage claims van AI zoals het drastisch verminderen van de werklast van leraren of het fungeren van AI als een persoonlijke tutor, meent Selwyn.

Verder wijst Selwyn op de noodzaak om kritisch te kijken naar de nadelen en gevaren van een toenemende afhankelijkheid van AI in het onderwijs, zoals administratieve ‘geweld’ en algoritmische discriminatie. Hij roept op om AI niet alleen te zien als een technisch object, maar als een systeem dat verweven is met de complexe realiteit van onderwijssystemen, economische en politieke systemen.

Selwyn stelt voor om alternatieve vormen van AI te onderzoeken die beter aansluiten bij onderwijsbehoeften. Hij haalt voorbeelden, onder meer van onderwijsorganisaties die menselijke aspecten van leren en doceren benadrukt. Zijn zorgen hebben onder meer te maken met machtsverhoudingen, dat wil zeggen wie mag beslissen welke AI-tools in het onderwijs worden geïmplementeerd en welke invloed AI uitoefent op wat er in die onderwijsomgeving gebeurt. Hij benadrukt het belang van een vertraagde, doordachte benadering en waarschuwt tegen het blindelings accepteren van AI als de oplossing voor alle onderwijsproblemen.

Mijn opmerkingen

Het is op zich goed dat Neil Selwyn wijst op belangrijke zorgpunten, en ook een relatie legt met de machtsvraag. Het zal m.i. altijd het onderwijs zelf moeten zijn dat bepaalt welke technologie, op welke manier en met welk doel zal worden gebruikt. De adoptie van technologie zoals AI is geen autonoom verlopend proces. Het is geen trein die doordendert zonder dat een machinist, conducteur of treinverkeersleider daar invloed op heeft.

Toch heb ik de behoefte om enkele kanttekeningen bij zijn bijdrage te plaatsen:

De EU onderscheidt verschillende risico’s als het gaat om AI. Ook binnen het onderwijs zouden we m.i. een onderscheid moeten maken tussen meer en minder risicovolle toepassingen van AI. In Neil Selwyn’s bijdrage loopt dit nu door elkaar. Hij maakt geen onderscheid in verschillende typen AI-toepassingen. De ene keer heeft hij het bijvoorbeeld over toepassingen met gezichtsherkenning, de andere keer over generatieve AI-toepassingen zoals ChatGPT.
Daarnaast lijkt hij er geen rekening mee te houden dat je AI ook doordacht kunt gebruiken. Als je je bewust bent van het feit dat de complexiteit van het onderwijs maar deels kan worden gemodelleerd met data, en dat je daarnaast informatie over onderwijs op andere manieren moet verzamelen, verwerken en gebruiken, dan is het gebruik van AI veel minder een zorg. Investeren in geletterdheid op dit terrein heeft ook niet alleen betrekking op instrumenteel gebruik, maar juist ook op een kritisch gebruik. Hij gaat ook voorbij aan het feit dat docenten ook zonder AI lerenden ongelijk kunnen behandelen. Verder zie je dat docenten en lerenden hun gedrag altijd aanpassen, bijvoorbeeld aan de manier van toetsen. Daar moet je het sowieso over hebben.
Een aantal andere zorgen zijn bekend en terecht, zoals de vooroordelen en de impact op het milieu. Voor AI-ontwikkelaars is nog veel werk aan de winkel, en er worden ook vorderingen op deze terreinen geboekt. Uiteraard zouden AI-ontwikkelaars er beter aan hebben gedaan om deze problemen te voorkomen.
Neil Selwyn heeft m.i. ook onvoldoende oog voor de potentie van AI voor leren, opleiden en onderwijs. Het valt me op dat pleitbezorgers van deze technologie het verwijt krijgen te kritiekloos te opereren. Criticasters krijgen zelden het verwijt dat zij eenzijdig negatief over deze ontwikkeling zijn. Het voeren van evenwichtige en redelijke discussies over de maatschappelijke implicaties en uitdagingen van AI vraagt m.i. om genuanceerde bijdragen.

Andere bronnen over generatieve AI

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

This content is published under the Attribution 3.0 Unported license.

2 reacties

Rhea schreef:

4 februari 2024 om 17:26

Fijne nuance maak je op het einde Wilfred. Het is inderdaad belangrijk om met elkaar redelijke en evenwichtige discussies te voeren. Ik heb het idee dat dit soms best lastig is op het brede thema onderwijs en digitalisering.
Wilfred Rubens schreef:

5 februari 2024 om 11:12

Graag gedaan, Rhea. Ik mis de nuance vaak.

Geef een reactie