Zullen chatbots gaan doceren? | WilfredRubens.com over leren en ICT

De opkomst van generatieve AI heeft volgens Natasha Singer een droom van ‘Silicon Valley’ nieuw leven in geblazen: chatbots zouden leren op maat voor lerenden mogelijk kunnen maken. Singer waarschuwt echter dat eerdere pogingen hiertoe deze belofte niet hebben waargemaakt. Ik mis in haar betoog overigens een aantal argumenten.

Afbeelding die een moderne chatbot voorstelt, weergegeven als een geavanceerde, humanoïde robot, die lesgeeft aan een individuele student in een futuristische klaslokaal. — DALL-E: afbeelding die een moderne chatbot voorstelt, weergegeven als een geavanceerde, humanoïde robot, die lesgeeft aan een individuele student in een futuristische klaslokaal.

Singer schrijft dat mensen als Sal Khan (de CEO van Khan Academy), Sundar Pichai (Google) en Greg Brockman (OpenAI) recentelijk hebben gewezen op de potentie van generatieve AI om gepersonaliseerde begeleiding te geven. In een recente TED Talk voorspelde Khan bijvoorbeeld dat AI-chatbots het onderwijs zullen transformeren. In deze video laat hij Khanmigo zien. Dat is een chatbot die is gebaseerd op de technologie van ChatGPT. Khanmigo geeft daarin op een indrukwekkende manier -als de video niet is ‘gefaked’- feedback bij het maken van wiskundeopdrachten. In toenemende mate passen ‘ed tech’ bedrijven een vergelijkbare technologie in hun applicaties toe. Singer geeft daar verschillende voorbeelden van zoals DuoLingo, Sizzle A.I. of Ethiqly.

Zij wijst erop dat ‘Silicon Valley’ al heel lang de droom koestert dat onderwijs met behulp van technologie geautomatiseerd kan worden. De belangrijkste redenen daarvoor zijn m.i.:

Technologie zou kwalitatief goed onderwijs meer toegankelijk kunnen maken. Dit idealistische argument zie je ook terug bij mensen als Nicolas Negroponte en Sugata Mitra die hebben geprobeerd om jongeren in achterstelde gebieden van behulp van ICT in staat te stellen te werken aan hun ontwikkeling. Bij generatieve AI wordt nun vaak gewezen naar Benjamin Bloom’s 2-Sigma onderzoek uit 1984. Volgens dit onderzoek is 1-op-1-onderwijs door een deskundige tutor eigenlijk de meest effectieve leermethode. Deze aanpak is alleen niet betaalbaar en organiseerbaar. Technologie zou 1-op-1 onderwijs wel mogelijk kunnen maken. Zie bijvoorbeeld Donald Clark’s We’ve just gone from a simple teacher-learner model to a new world of AI teachers – a new pedAIgogy.
We hoeven minder geld uit te geven aan onderwijs, als we technologie hiervoor kunnen gebruiken in plaats van mensen. In Silicon Valley wonen nogal wat adepten van een rechts-libertaire visie die pleiten voor een zo klein mogelijke overheid, privatisering van publieke diensten en zo min mogelijk belasting betalen.
‘Onderwijs’ wordt een enorme markt voor de technologie industrie als je onderwijs in verregaande mate kunt automatiseren.

In het New York Times-artikel schrijft Singer dat al heel vaak geprobeerd is om gepersonaliseerd onderwijs met behulp van technologie mogelijk te maken. Al in de jaren 60 werd voorspeld dat “onderwijsmachines” onderwijs revolutionair zouden veranderen. Deze machines hadden uiteindelijk geen blijvende impact. De vraag was destijds ook welke gevolgen “machinaal lesgeven” had voor het kritisch denken van lerenden. De ‘een laptop voor elk kind’-beweging vloeide ook voort uit de behoefte om onderwijs meer toegankelijk te maken. Deze ontwikkeling werd ook geen succes.

Nu wordt dus gekeken naar AI-chatbots als middel om 24/7 1-op-1 onderwijs te realiseren dankzij hun vermogen om interactieve en gepersonaliseerde respons te bieden. Er zijn volgens Singer echter ook bedenkingen. Critici wijzen bijvoorbeeld op de betrouwbaarheid van informatie die door AI-chatbots wordt verstrekt. Generatieve AI-toepassingen kunnen soms onjuiste informatie genereren en vooroordelen bevatten. De werking ervan is ook niet transparant. Uiteraard werken docenten ook niet zonder fouten of vooroordelen. En bovendien zijn docenten niet 24/7 beschikbaar.

Daarnaast zijn er zorgen over privacy en intellectueel eigendom. Veel taalmodellen zijn getraind op uitgebreide databanken die van het internet zijn gehaald. Dit roept vragen op over eerlijke compensatie voor contentmakers. Onderwijsvakbonden maken zich bijvoorbeeld zorgen over de werkgelegenheid.

Critici waarschuwen ook voor de mogelijke negatieve impact van AI op het leerproces van lerenden. Er is bijvoorbeeld nog geen overtuigend bewijs dat AI-chatbots daadwerkelijk zullen leiden tot effectief leren. Meer onderzoek is nodig. Verder zou de opwinding over AI-gedreven leertechnologieën de aandacht kunnen afleiden van bewezen ‘human-centered‘ onderwijsinterventies zoals tiegang tot voorschoolse programma’s.

Desalniettemin zie je volgens Singer een toename van gebruik van AI-toepassingen voor het geven van instructie en begeleiding.

Mijn opmerkingen

Gezien de snelle ontwikkeling van generatieve AI is het lastig een voorspelling te doen ten aanzien van de invloed op en potentie ten aanzien van leren, opleiden en onderwijs. Net zo goed als uit het verleden behaalde resultaten geen garantie voor de toekomst zijn, geldt dat ook voor mislukkingen. Tot nu toe heeft technologie de belofte van gepersonaliseerd leren niet ingelost. Maar wellicht gaat dat wel ooit gebeuren. Je moet echter wel waken voor te overspannen verwachtingen, en terughoudend zijn met grootschalige toepassingen zonder dat onderzoek de potentie inderdaad aantoont.

Het valt me verder op dat Natasha Singer nauwelijks stil staat bij de aard van ‘onderwijs verzorgen’. David Thornburg schijnt ooit de uitspraak gedaan te hebben: “Any teacher that can be replaced by a computer, deserves to be“. De essentie van deze uitspraak is dat technologie, hoe geavanceerd ook, nooit de unieke kwaliteiten en de persoonlijke betrokkenheid kan vervangen die een docent biedt. Hoewel AI wellicht ooit empathie en emoties kan tonen, is deze technologie vooralsnog niet heel sterk in interesse creëren, improviseren, snel en flexibel inspelen op reacties van lerenden (inclusief leergedrag), of nieuwsgierigheid opwekken. Of generatieve AI hiertoe ooit in staat zal zijn, staat wat mij betreft nog steeds in de sterren geschreven. Onderwijs geven is in elk geval veel meer dan het geven van uitleg, het stellen van vragen of het geven van cognitieve feedback.

Verder zijn er mogelijk ook grenzen aan de mate waarin mensen willen interacteren met generatieve AI. Diverse factoren zijn hierbij van invloed zoals gebruikersgemak, ervaren nut, ervaren menselijke connectie, gevoel van onbehagen omdat technologie te veel op een mens lijkt, enzovoorts. Ik heb daar eerder over geschreven. Singer besteedt hier geen aandacht aan.

Daarnaast blijf ik me verbazen over de neiging om bij de impact van generatieve AI vooral te kijken naar de mate waarin en de wijze waarop deze technologie in staat is menselijke arbeid te vervangen. Dit leidt m.i. af van gesprekken over de wijze waarop generatieve AI in staat is om professionals te ondersteunen bij hun werk. Daar zit m.i. met name de potentie. Als je mensen laat samenwerken met generatieve AI, dan kunnen mensen de tekortkomingen van generatieve AI verhelpen. Het is dan niet erg als een toepassing als ChatGPT eens een te algemeen of niet helemaal correct antwoord geeft. Aan de andere kant kan generatieve AI tekortkomingen van mensen verhelpen, zoals beperkte beschikbaarheid.

Dit betekent inderdaad wel dat je vooralsnog niet al te overspannen verwachtingen moet hebben van generatieve AI als technologie die nu wèl in staat is om 1-op-1 onderwijs te verzorgen.

Andere bronnen over generatieve AI

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

This content is published under the Attribution 3.0 Unported license.

Geef een reactie