Ivana Bartoletti vraagt zich in ‘The ethical dilemma of AI in classrooms: Who decides what we teach?’ af wie bepaalt welke informatie wordt gebruikt voor AI-systemen in het onderwijs, en hoe deze technologie kan bijdragen aan gelijkwaardig en inclusief onderwijs.
AI-toepassingen bieden mogelijkheden voor onderwijs op maat, waarbij inhoud en niveau kunnen worden aangepast aan de individuele lerenden. Deze toepassingen kunnen direct feedback geven en helpen zowel lerenden als docenten bij het verbeteren van hun vaardigheden. Volgens Bartoletti roept de toenemende invloed van ‘AI’ echter ook vragen op over de impact op het onderwijs.
Zij wijst erop dat de dataverzameling voor AI-systemen niet neutraal is. De keuzes over welke data worden opgenomen of uitgesloten, worden gemaakt door mensen en weerspiegelen vaak de zienswijzen van degenen die beslissingen nemen. Dit kan leiden tot vooroordelen in de voorspellingen die AI-toepassingen maken. Een voorbeeld hiervan is volgens haar surveillancesoftware Proctorio die bij de Vrije Universiteit in Amsterdam die moeite had met het herkennen van lerenden met een donkere huidskleur. Dit leidde tot klachten over discriminatie.
De vooroordelen in AI-tools kunnen volgens de auteur bestaande ongelijkheden versterken. AI-gestuurde tutoringsystemen kunnen zich aanpassen aan het tempo van lerenden, maar ze kunnen volgens Ivana Bartoletti niet de onderliggende oorzaken van onderwijsongelijkheid aanpakken, zoals armoede of systematische discriminatie. AI-systemen die geen rekening houden met aanpassingen voor lerenden met een beperking, kunnen stress en uitsluiting juist vergroten, schrijft zij.
Voor het ontwikkelen van eerlijke AI-systemen is het volgens Bartoletti belangrijk om verschillende perspectieven te betrekken bij data governance. Momenteel zijn vrouwen en mensen uit ondervertegenwoordigde groepen echter nog een minderheid in de AI-sector. Wereldwijd is slechts 28 procent van de onderzoekers in bèta-vakken vrouw. Het betrekken van diverse perspectieven op alle besluitvormingsniveaus, van goverance tot controle, is nodig om AI-technologieën op een rechtvaardige manier in te zetten voor alle groepen in de samenleving en om te voorkomen dat bestaande ongelijkheden worden versterkt of nieuwe ontstaan.
Ivana Bartoletti formuleert ook vier aanbevelingen voor ethische en inclusieve datapraktijken:
- Het opzetten van ethische kaders voor het beoordelen van AI-producten vanuit verschillende invalshoeken.
- Het invoeren van regels die zorgen voor gelijkwaardigheid en verantwoording.
- Het bevorderen van kennis over AI in het onderwijs, zodat lerenden AI-gegenereerde inhoud kunnen analyseren.
- Het herformuleren van AI als mensgerichte discipline door ethiek en sociale wetenschappen te integreren in AI-onderwijs.
Transparantie over hoe data worden verzameld en gebruikt is een eerste stap. Organisaties en overheden moeten volgens haar verantwoordelijkheid nemen voor het voldoen aan ethische normen. UNESCO’s richtlijnen uit 2023 voor AI in het onderwijs bieden een kader dat culturele diversiteit en menselijke autonomie benadrukt. Door voortdurende dialoog en samenwerking kan de volgende generatie worden voorbereid om AI verantwoord te gebruiken en vorm te geven, meent zij.
Mijn opmerkingen
Opvallend en goed dat eCampusNews juist nu een artikel publiceert waarin aandacht wordt gevraagd voor gelijkheid, transparantie en inclusie, in relatie tot het gebruik van AI-toepassingen. Binnen het huidige politieke klimaat in de VS is dit praktisch een daad van verzet. Verder deel ik ook de noodzaak om aandacht te vragen voor het niet-neutrale karakter van dataverzameling, het risico op vergrootte ongelijkheid en uitsluiting, en het pleidooi voor voor ethische en inclusieve datapraktijken. Ethische richtlijnen, regulering (en handhaving), transparantie en digitale geletterdheid zijn anno 2025 mogelijk nog belangrijker dan een jaar of twee geleden.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.
This content is published under the Attribution 3.0 Unported license.
Geef een reactie