Eenentwintigste bloemlezing over ChatGPT (en aanverwante technologieën)

Echt waar. Verleden week had ik alle verzamelde bijdragen over ChatGPT (en aanverwante technologieën) verwerkt. Binnen een week waren weer tientallen blogposts, artikelen, video’s en podcasts aan mijn ‘lees/kijk/luisterlijst toegevoegd. Deze eenentwintigste bloemlezing bevat daarom elf samenvattingen en ongeveer 60 links naar Nederlandstalige bronnen of bronnen waar ik niet aan toe kom om ze samen te vatten.

Dall-E:3D render of artificial intelligence on a hype cycle, on a dark purple background, digital art

ChatGPT ontcijferd

Een tijd geleden ben ik geïnterviewd door Samir Badaoui over het gebruik van ChatGPT binnen het onderwijs. Risico’s, uitdagingen en mogelijkheden passeren de revue. En wat had ik toen een hardnekkige hoest…

ChatGPT is going to change education, not destroy it (Will Douglas Heaven)

ChatGPT werd aanvankelijk bekritiseerd als een hulpmiddel om gemakkelijk te spieken bij opdrachten. Scholen in de Verenigde Staten en Australië verboden al snel de toegang tot de software. Vooraanstaande universiteiten in het Verenigd Koninkrijk waarschuwden studenten ook tegen het gebruik ervan. Echter, na drie maanden zijn docenten volgens deze bijdrage positiever. Nu zijn er opiniërende bijdragen waaruit zou blijken dat ChatGPT gebruikt kan worden als krachtig hulpmiddel voor het onderwijs door onder meer interactieve lessen mogelijk te maken, mediageletterdheid te bevorderen, gepersonaliseerde lesplannen te genereren en docenten tijd besparen. Edtech-bedrijven zoals Duolingo en Quizlet hebben ChatGPT al geïntegreerd in hun apps. En: if ChatGPT makes it easy to cheat on an assignment, teachers should throw out the assignment rather than ban the chatbot. ChatGPT kan de rol van een debattegenstander spelen en bijvoorbeeld tegenargumenten genereren voor de standpunten van een lerende.
Het is volgens deze bijdrage belangrijk dat docenten zich bewust zijn van zowel de voordelen als het potentieel misbruik van AI-technologie in het onderwijs. Door een klas met AI te laten werken en kritisch na te laten denken over wat ChatGPT genereert, zou onderwijs ‘menselijker’ kunnen worden. Beoordeel ook de ‘prompt’ en niet alleen de output. Larry Cuban stelt in zijn commentaar overigens dat beweringen over de positieve gevolgen van nieuwe technologieën op bijvoorbeeld interactiviteit van het onderwijs en tijdsbesparing van docenten, al eerder zijn gedaan maar niet zijn waargemaakt. Hij schrijft o.a. Exaggerated claims about new technologies altering how teachers teach has a long history when it comes to teaching in public schools. The hype surrounding ChatGPT sits squarely within that history of new technologies applied to public schools.
Het is te vroeg om de blijvende impact van ChatGPT te beoordelen, maar het is duidelijk dat AI een rol zal spelen in het onderwijs.

ChatGPT Is Unoriginal—and Exactly What Humans Need

Deze bijdrage uit Wired gaat over een originele educatieve toepassing van ChatGPT. Studenten van de Harvard Graduate School of Education moesten een casus uitwerken over drugsbezit op een school. Vervolgens vergeleken ze hun uitkomsten met de uitwerking van ChatGPT. Dat leidde tot een interessant inzicht. Aanvankelijk leken hun eigen oplossingen namelijk sterk op de voorspelbare suggesties van de chatbot. Deze spiegel die de AI-toepassing hen hiermee voorhield, maakte hun eigen gebrek aan originele denkpatronen duidelijk. Dit inzicht verrijkte de discussie die daarop volgde. Het gesprek over de casus werd rijker en creatiever, waarbij ze bestaande structuren in twijfel trokken en buiten de gebaande paden begonnen te denken. ChatGPT biedt dus zelf geen originele oplossingen, maar fungeerde volgens de auteurs wel als een katalysator die lerenden confronteert met de eigen voorspelbaarheid, waardoor zij worden gestimuleerd om nieuwe, onvoorspelbare alternatieven te overwegen.

De invloed van generatieve AI op werk

Over dit onderwerp ben ik de afgelopen week twee bijdragen tegen gekomen. Allereerst een artikel over een studie van KPMG. Zij hebben respondenten over dit onderwerp bevraagd. 72% van de respondenten gelooft dat generatieve AI de potentie heeft om de productiviteit binnen hun organisaties aanzienlijk te verbeteren. Daarnaast verwacht 66% van de deelnemers aan de vragenlijst een transformatie van het toekomstige takenpakket. 62% erkent dat AI het vermogen heeft om innovatie te stimuleren en de ontwikkeling van nieuwe producten en diensten te vergemakkelijken. Werknemers kunnen zich dankzij generatieve AI meer focussen op meer analytische taken (die wel cognitief meer belastend zijn). Respondenten hebben ook zorgen over deze ontwikkelingen, en vinden dat werknemers nu onvoldoende voorbereid zijn op deze ontwikkeling.
De tweede bijdrage gaat over een analyse van onder andere de ontwikkelaar van ChatGPT en DALL.E., OpenAI. Zij hebben bijna 20.000 taken en meer dan 2000 werkprocessen geanalyseerd. Volgens dit onderzoek zullen large language models minstens 10 procent van het werk van ongeveer 80 procent van de Amerikaanse werknemers beïnvloeden. Voor 19 procent van de werknemers zullen de taalmodellen naar verwachting minstens 50 procent van de taken beïnvloeden. Zij hebben niet gekeken of deze toepassingen werk versterkt of vervangt. Beter betaalde banen worden meer beïnvloed door AI-veranderingen. Het zijn vooral banen waarbij je veel moet schrijven of programmeren die worden beïnvloed door generatieve AI. Banen die sterk afhankelijk zijn van wetenschap en kritisch denken lopen minder risico. Praktisch geschoold werk wordt het minst ‘geraakt’ door deze ontwikkeling.

Feedback from an AI-driven tool improves teaching, Stanford-led research finds

Deze bijdrage gaat niet over ChatGPT, maar wel over een AI-toepassing die feedback kan genereren. Onderzoek van de Stanford Universiteit toont aan dat de AI-tool genaamd M-Powering Teachers, de manier van communiceren van docenten kan versterken en de studenttevredenheid kan verbeteren. De applicatie maakt gebruik van recente vooruitgang op het gebied van natuurlijke taalverwerking om gesprekspatronen in het onderwijs te identificeren en consistente, geautomatiseerde feedback te leveren. De focus lag op het verbeteren van de ‘uptake’, waarbij docenten de inbreng van studenten erkennen, herhalen en uitbouwen. Onderzoek laat zien dat deze aanpak de studenttevredenheid en prestaties verbetert. Docenten die feedback van de tool kregen, gingen vaker ‘uptake’ toepassen en stelden betere vragen. Daardoor waren studenten vaker tevreden en wisten zij in toenemende mate opdrachten te voltooien. De applicatie was volgens gebruikers kosteneffectief en schaalbaar, en een waardevolle aanvulling op traditionele observaties. De tool vervangt menselijke feedback niet, maar helpt docenten te reflecteren op hun praktijk.

Can AI Help Teachers With Grading?

EdSurge heeft onderzoek gedaan naar de rol van AI bij het beoordelen van opdrachten van lerenden. Hun betrekkelijk kleinschalig onderzoek laat zien dat AI en docenten verschillende benaderingen hanteren. Docenten geven gemiddeld lagere cijfers dan AI. AI is snel en consistent, maar mist het vermogen om essays in hun geheel te begrijpen, hetgeen docenten wel doen. Docenten hebben moeite om commentaar van AI te interpreteren en het in een taal te vertalen die aansluit bij de behoeften en capaciteiten van hun lerenden. Toch zien de onderzoekers potentie in AI om de werkdruk die beoordelen voor docenten met zich meebrengt, te verlichten en lerenden meer kansen te geven om schrijven te oefenen. Het AI-systeem moet dan wel worden getraind om holistischer naar essays te kijken en feedback te geven op een manier die voor lerenden begrijpelijk is. Uiteraard kun je een applicatie als ChatGPT ook gebruiken voor het herformuleren van tekst.

For Some Autistic People, ChatGPT Is a Lifeline

Veel mensen met een stoornis in het autistisch spectrum hebben geleerd om sociale gedragingen en lichaamstaal na te bootsen die neurotypische mensen verwachten. Dit wordt “maskeren” genoemd, maar het is vermoeiend en kan leiden tot misverstanden. Zij beschikken nu over een gesprekspartner die meer aansluit bij de manier waarop zij spreken: ChatGPT. Dankzij deze AI-toepassing beschikt deze doelgroep over een partner om mee te converseren, brainstormen en om neurodivergente ondernemers en creatievelingen te helpen bij merk- en bedrijfsstrategieën, zo,blijkt uit deze bijdrage. Veel mensen met een stoornis in het autistisch spectrum zijn volgens deze bijdrage opgegroeid met het idee dat ze anders zijn, als aliens of robots klinken, of dat er iets mis met hen is. ChatGPT klinkt “zoals zij”, logisch en specifiek. Met AI bij de hand kunnen zij een gesprek modelleren en manieren uitproberen om zichzelf uit te drukken.

‘Dat zijn toch gewoon ál onze artikelen?’

Journalisten van De Groene Amsterdammer stellen dat Docplayer.nl, ooit een belangrijke bron van privégegevens voor hackers, nu de belangrijkste Nederlandstalige bron voor chatbots zoals ChatGPT is. Onderzoek zou aantonen. Techbedrijven, waaronder OpenAI, Google en Meta, gebruiken ook vaak de Common Crawl-database, een overzicht van bijna alle internetteksten, om AI-modellen zoals ChatGPT te trainen. Deze database, die miljarden woorden en allerlei privé-informatie bevat, wordt ook gebruikt om het begrip van Nederlandse cultuur door deze chatbots te verbeteren. Deze aanpak leidt tot zorgen en problemen ten aanzien van privacy, auteursrechtschending en de verspreiding van vooroordelen en verkeerde informatie. De training van chatbots op gekleurde of niet-betrouwbare informatie kan leiden tot het verspreiden van nepfeitjes en bevooroordeelde antwoorden, zoals de duidelijke politieke inslag van ChatGPT in Nederland. Bovendien blijft de herkomst van de informatie die door chatbots wordt verstrekt, vaak onduidelijk voor de eindgebruiker.

Frauduleus, dubieus of juist aan te moedigen: universiteiten oordelen afwijkend over ChatGPT als scriptiehulp

ChatGPT wordt steeds vaker door studenten gebruikt als hulpmiddel bij het schrijven van scripties. Hoewel de chatbot nog geen kant-en-klare academische teksten kan produceren, zien studenten het als een waardevolle brainstormpartner, spellingcontroleur en schrijfhulp. De toenemende populariteit van ChatGPT roept echter vragen op over mogelijke fraude, aangezien sommige studenten de bot als ghostwriter gebruiken. Een ander zorgpunt is of studenten hierdoor nog wel noodzakelijke academische schrijfvaardigheden ontwikkelen, ook al bevordert het herschrijven van een gegenereerde tekst ook schrijfvaardigheden. Onderwijsinstellingen zullen op dit terrein echter een vinger aan de pols moeten hebben en indien nodig ingrijpen. Onderwijsinstellingen zoeken naar een beleid over het gebruik van ChatGPT, variërend van aanmoediging tot totaal verbod. Tegelijkertijd overwegen sommige instellingen om hun beoordelingssystemen aan te passen, minder gericht op “kennis en inzicht” en meer op “toepassing en oordeelsvorming”.

De culturele blunder van de eeuw

De auteurs betogen dat de huidige angst dat kunstmatige intelligentie (AI) de mens overbodig maakt, een afleiding is van de echte problemen die AI met zich meebrengt. Zij stellen o.a.: “Door intelligentie te verschralen tot datgene waar computers goed in zijn, kunnen AI-bedrijven hun macht vergroten en ons voorhouden dat bijna alle taken door hun eigen AI-producten vervangen kunnen worden”. De fixatie op AI, met sensationele berichtgeving dat AI menselijke taken beter kan uitvoeren, wordt bekritiseerd. De auteurs wijzen op het feit dat AI weliswaar uitblinkt in cognitieve taken, maar tekortschiet in aspecten zoals gevoel, beleving, begrip en ervaring. En juist dit is m.i. ook de belangrijkste reden waarom AI het werk van docenten niet kan vervangen, maar wel kan aanvullen. Empathie, begrip en ervaring zijn juist van belang voor de pedagogische rol die docenten nadrukkelijk ook vervullen. De auteurs waarschuwen dat het verminderen van menselijke banen tot AI-vervangbare minimumtaken en het blindelings investeren in AI-producten ernstige gevolgen kan hebben voor onze maatschappij. Zij pleiten voor een dieper en breder debat over AI, dat rekening houdt met culturele, politieke en commerciële dimensies van intelligentie.

Andere bronnen over ChatGPT (geen tijd om kort te beschrijven of Nederlandstalig)

Mijn eerdere bijdragen over ChatGPT

This content is published under the Attribution 3.0 Unported license.

Geef een reactie