Waarom chatbots niet veelbelovend zijn voor generatieve AI voor leren, opleiden en onderwijs (of toch?)

In zijn artikel “Dead-end Chatbots: Why Chatbots Aren’t the Future of Generative AI in Education” schrijft Leon Furze dat chatbots beperkte toepassingen hebben en dat andere vormen van generatieve AI meer belovend zijn voor educatieve doeleinden. Ik ben het maar deels met hem eens.

Furze definieert chatbots als AI-gebaseerde tools die voornamelijk tekstgebaseerd zijn en ontworpen zijn voor specifieke, beperkte toepassingen. Deze technologieën zijn een uitbreiding van eerdere helpdesksoftware en worden vaak aangedreven door modellen zoals GPT-3.5. Chatbots bieden natuurlijke dialogen en worden soms uitgebreid met spraakherkenning. Furze onderscheidt chatbots van multimodale systemen die bijvoorbeeld beeldherkenning en geavanceerde data-analyse combineren. Dit is een belangrijk onderscheid. Het maakt namelijk nogal wat uit of je met een tekstgebaseerde chatbot converseert of met een applicatie waarmee je een natuurlijk gesprek kunt voeren en die ook kan reageren op wat zichtbaar is.

Furze gaat in zijn bijdrage in op belangrijke beperkingen van chatbots:

Technische beperkingen. Chatbots hebben vaak moeite met nauwkeurigheid en betrouwbaarheid. Ze kunnen foutieve informatie geven en hebben een wisselvallige gebruikerservaring. Dit kan leiden tot frustratie bij lerenden en docenten. De technologie staat nog in de kinderschoenen en hoewel verbetering verwacht wordt, is het risico van onbetrouwbare technologie voor leren, opleiden en onderwijs te groot. Problemen zoals het verzinnen van informatie en een slechte gebruikerservaring ondermijnen hun effectiviteit.
Ethische problemen. Generatieve AI-modellen kunnen vooringenomen of discriminerende output produceren. Chatbots worden vaak gepresenteerd als neutrale informatiebronnen, terwijl ze in werkelijkheid vooroordelen en discriminatie kunnen reproduceren. Dit is extra problematisch in een diverse onderwijsomgeving. Hoewel sommige chatbots zijn ontworpen om biases te minimaliseren, blijft de perceptie dat ze neutraal zijn volgens Furze een probleem omdat het kan leiden tot ongewenste en onbewuste beïnvloeding van lerenden.
Parallel met sociale media. Chatbots zijn populair bij bedrijven zoals Meta omdat ze volgens Furze verslavend kunnen zijn. Dit soort technologieën gebruiken volgens hem dezelfde verslavende principes als sociale media. Dit is problematisch in een educatieve context waar langdurige betrokkenheid niet altijd wenselijk is.
Gebrek aan bewijs. Er is weinig bewijs dat chatbots een positieve invloed hebben op het leerproces. Onderzoek laat volgens hem zien dat chatbots nuttig kunnen zijn voor het het onthouden van informatie en tutoring. Toch is de technologie volgens Furze nog niet ver genoeg ontwikkeld is om aanzienlijke educatieve voordelen te bieden.
Kosten. De ontwikkeling en het onderhoud van chatbots zijn duur. Dit kan leiden tot ongelijkheid tussen onderwijsinstellingen die wel of geen toegang hebben tot voldoende financiële middelen om geavanceerde technologieën te implementeren.

In plaats van te investeren in chatbots, adviseert Furze dat onderwijsinstellingen zich beter kunnen richten op andere vormen van generatieve AI. Deze technologieën kunnen worden ingezet voor administratieve taken, het verminderen van de werkdruk voor docenten en het ondersteunen van het plannen van leren, opleiden en onderwijs en manieren van beoordelen. Ook waarschuwt Furze voor ‘deprofessionalisering’ van docenten als chatbots te veel taken overnemen. Hij vreest ook dat organisaties de ratio ‘docent:lerende’ gaan verhogen als generatieve AI worden gebruikt voor tutoring.

Mijn opmerkingen

Zoals gezegd maakt het nogal wat uit over wat voor chatbots je het hebt. Generatieve AI is sterk in ontwikkeling en de mogelijkheid om real-time met behulp van meerdere modaliteiten te converseren, kan juist een impuls geven aan generatieve AI voor tutoring. Uiteraard heb je hierbij te maken met beperkingen. Generatieve AI houdt nog steeds weinig rekening met context, en scoort zwak op zaken als divergent denken, nieuwsgierigheid en empathie (bron). Toch zal ook op het gebied van tutoring het werk van mensen worden versterkt door generatieve AI.

Daar komt bij dat de kwaliteit van output hopelijk kwalitatief beter worden. Uitteraard zullen gebruikers van generatieve AI-tutoren ook kritisch om moeten leren gaan met deze toepassingen, en output niet klakkeloos moeten overnemen. De vergelijking met sociale media gaat wat mij betreft slechts deels op. Bij sociale media blijft content maar op je beeldscherm verschijnen, en maakt scrollen dit ook erg eenvoudig. Bij AI-chatbots moet je actief nieuwe opdrachten invoeren.

Daar komt bij dat inderdaad meer onderzoek nodig is naar het leerzame karakter van chatbots. We weten inderdaad nog relatief weinig van de effecten van generatieve AI op begeleiding en ondersteuning van lerenden. Maar dat is logisch bij een relatief nieuwe ontwikkeling.

Andere bronnen over generatieve AI

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

This content is published under the Attribution 3.0 Unported license.

Geef een reactie