Mensen hebben volgens mij vaak verkeerde verwachtingen ten aanzien van ChatGPT. Dat blijkt uit een aantal bijdragen over deze toepassing die ik in onderstaande blogpost samenvat. Verder vind je in deze bijdrage ook weer een groot aantal links van artikelen over ChatGPT die ik alleen maar weergeef omdat ze in het Nederlands zijn geschreven en/of omdat ik geen tijd heb om deze te bespreken.
In hoeverre is ChatGPT accuraat en hoe kunnen juristen en studenten van de opleiding HBO-rechten deze toepassing gebruiken?
Studenten van de opleiding HBO-rechten van Zuyd Hogeschool verkennen deze vraag in een aantal blogposts. Bijvoorbeeld:
- Ronde 3: kan ChatGPT complexe juridische teksten versimpelen?
- Kan ChatGPT een accurate samenvatting van jurisprudentie geven aan de hand van ECLI-nummers?
- Test 4: Eenvoudige juridische vragen
De studenten concluderen onder meer:
- ChatGPT is op dit moment niet geschikt om lastige juridische teksten te herformuleren op B1-niveau.
- ChatGPT is op dit moment niet betrouwbaar en efficiënt voor het maken van samenvattingen van jurisprudentie: “Het geeft in veel gevallen geen volledige samenvattingen, omdat het niet altijd in gaat op de dingen die wel van belang zijn bij het samenvatten van uitspraken. Verder is de chatbot op dit moment niet in staat om langere teksten te samenvatten.”
- ChatGPT is niet accuraat om een juridisch advies op te stellen en hiermee cliënten te helpen. Dat komt omdat ChatGPT zich baseert op verouderde informatie.
Mooi dat studenten deze vragen verkennen. Volgens mij zou de vraag echter vooral moeten zijn: kan ChatGPT mij ondersteunen bij het geven van juridisch advies, het maken van samenvattingen van jurisprudentie en het herformuleren van juridische teksten in eenvoudig Nederlands?
Gebruik de output, bewerk, verbeter en pas aan.
Nota bene: om als student ChatGPT te kunnen gebruiken, moet je een account aanmaken. Als docent mag je studenten dat niet vragen omdat de onderwijsinstelling (waarschijnlijk) geen verwerkersovereenkomst heeft afgesloten met OpenAI.
ChatGPT is a data privacy nightmare. If you’ve ever posted online, you ought to be concerned
Hoogleraar Uri Gal bekritiseert het feit dat ChatGPT gebruik maakt van zeer veel data waarvoor men nooit toestemming heeft gevraagd. Hij wijst o.a. op het aantasten van contextual integrity: informatie wordt niet vrijgegeven buiten de context waarin de informatie oorspronkelijk werd geproduceerd. Ook kun je als individu niet het verzoek indienen om in te zien of informatie over jou is vastgelegd en verwijderd kan worden. Verder kan er copyright berusten op de verkregen data. Door opdrachten te geven kun je bovendien ook gevoelige informatie binnen ChatGPT vastleggen. Mmmmm…..
De opkomst van ChatGPT heeft geleid over nieuwe zorgen ten aanzien van fraude door lerenden. Volgens deze auteurs moeten we ons echter vooral afvragen waarom lerenden fraude plegen, in plaats van hoe we kunnen voorkomen dat lerenden fraude plegen. Zij spreken van een systematisch probleem. Binnen het huidige onderwijssysteem leren lerenden vaak vooral voor cijfers en testscores, en niet om hun individuele nieuwsgierigheid te bevredigen of om verdiepend te leren. Onderzoek laat zien dat veel lerenden overweldigd worden door de druk om te presteren en dat zij vinden dat zij moeten voldoen aan hoge verwachtingen van familie. De auteurs pleiten voor een evenwicht tussen extrinsieke maatstaven voor succes en intrinsieke motivatie. Zij geven daar ook handreikingen voor.
Teachers are burning out. Can AI help?
Docenten ervaren een grote werkdruk. Dat is een internationaal fenomeen. Volgens deze bijdrage kan AI helpen deze werkdruk te verlagen. De auteur stelt dat we met behulp van AI veel van de tijd die docenten besteden aan voorbereiding en beoordeling elimineren, waardoor hun werkweek met maar liefst 30 procent kan worden ingekort. Daardoor houden ze meer tijd over voor lesgeven. Scholen kunnen dan dankzij AI een minder stressvolle en flexibelere werkomgeving creëren. AI kan bijvoorbeeld een tekst scannen en daar een presentatie van maken. Docenten zouden ook avatars kunnen programmeren die een les van hen overnemen, bijvoorbeeld bij ziekte. Een ander voorbeeld is het gebruik van AI voor het automatisch beoordelen van werk van lerenden.
De auteur somt in deze bijdrage nog meer voorbeelden op. De auteur lijkt daarbij uit te gaan van nagenoeg perfect werkende AI-toepassingen. Daar is echter nog lang geen sprake van. Ook beseft hij m.i. niet dat je lesgeven niet kunt programmeren. Ik ben van mening dat AI-toepassingen zoals ChatGPT werknemers, en dus ook docenten, werk uit handen kunnen nemen. Een reductie van 30 procent? Daar geloof ik eerlijk gezegd niets van. Het zou wel interessant zijn om op termijn te onderzoeken hoeveel tijd dergelijke AI-toepassingen besparen en wat er gebeurt met de uitgespaarde tijd. Maar dan moeten AI-toepassingen als ChatGPT eerst de ‘Beta-fase’ ontstegen zijn. De al bekende internettechnologieën hebben het werk van docenten ook al gemakkelijker gemaakt. Ik denk bijvoorbeeld aan de workflow rond opdrachten. Dit heeft echter niet geleid tot minder werkdruk.
Deze bijdrage gaat niet over ChatGPT maar om AI-toepassingen op het gebied van spraakherkenning. Het thema is echter ook relevant voor ChatGPT. We maken ons bij het gebruik van AI-toepassingen namelijk terecht zorgen over inefficiënte algoritmen en vooroordelen in datasets. Daardoor zijn AI-toepassingen niet effectief voor de grote diversiteit aan lerenden. Terwijl toepassingen op het gebied van nauwkeurige spraakherkenning volgens de auteur veel potentie heeft voor meer natuurlijke leertechnologieën en realtime beoordelingsmogelijkheden voor vroegtijdige interventies bij spraak-, taal- en leesproblemen. Op dit moment werken deze toepassingen echter niet goed voor de grote verscheidenheid aan potentiële gebruikers. Problemen met ‘bias’ kun je echter aanpakken door de bronnen van deze vooroordelen te herkennen, onderzoeksprogramma’s voor schaalbare oplossingen uit te voeren en betrouwbare effectiviteitsstudies te eisen voordat spraakherkenningsproducten in het onderwijs worden gebruikt. De auteur geeft als voorbeeld het bedrijf Soapbox Labs dat probeert strenge criteria toe te passen voor de ontwikkeling van meer representatieve datasets voor de beoordeling van spraakvaardigheid en spraakproblemen. De ontwikkeling van doeltreffend beleid en beste praktijken om AI-bias te bestrijden zijn volgens de auteur essentieel om de doeltreffendheid en rechtvaardigheid van leertechnologie te waarborgen. Zijn bijdrage bevat een aantal aanbevelingen die hierop gericht zijn. Bijvoorbeeld de vorming en financiering van interdisciplinaire en etnisch divers samengestelde teams die werken aan deze AI-toepassingen of het kunnen onderzoeken van datasets en de algoritmen.
Educator considerations for ChatGPT
Deze bijdrage is van de ontwikkelaar van ChatGPT zelf, OpenAI. Zij hebben diverse deskundigen hiervoor geraadpleegd. Het resultaat is een behoorlijk nuchtere bijdrage over mogelijkheden en beperkingen van ChatGPT. De samenstellers benadrukken dat ChatGPT nog niet is doorontwikkeld en dat de verschillende mogelijkheden gepaard gaan met serieuze beperkingen. De samenstellers schrijven bijvoorbeeld dat ChatGPT de potentie heeft om onderwijs meer te personaliseren, maar dat privacy van de lerende, bevooroordeelde behandeling en ontwikkeling van ongezonde gewoonten serieuze risico’s zijn. Lerenden zouden ChatGPT vooral onder begeleiding moeten gebruiken van docenten die de beperkingen begrijpen. Daarnaast waarschuwen de auteurs ervoor dat docenten ChatGPT weliswaar kunnen gebruiken bij het maken van opdrachten of het geven van feedback op essays, maar dat je ChatGPT niet kunt vertrouwen als beoordelingsinstrument op zich. Docenten moeten zowel de input als de output zorgvuldig beoordelen, en gebruikers moeten ook aangeven waarvoor zij ChatGPT hebben gebruikt.
Is AI (Finally) Coming of Age?
Irving Wladawsky-Berger plaatst de ontwikkeling van ChatGPT in een historisch perspectief. De ontwikkeling van AI heeft zelfs hele periodes nagenoeg stil gelegen, maar lijkt na 60 jaar eindelijk volwassen te worden. Drie belangrijke zaken hebben hier aan bijgedragen: grote verbeteringen in de prestaties en kosten van computerhardware, nieuwe transformatorarchitecturen die AI-basismodellen in staat stellen te profiteren van parallelle computersystemen, en meer dan tien keer zoveel data die gebruikt wordt om AI-toepassingen te trainen. Daar komt bij dat je hedendaagse AI-toepassingen, zoals ChatGPT, heel gemakkelijk kunt gebruiken. Wladawsky-Berger stelt echter ook dat we nog moeten leren waar dit type toepassingen sterk in zijn, en waarin niet. Welke taken kunnen zij overnemen en welke niet? Het realiseren van het potentieel van dergelijke belangrijke nieuwe transformatietechnologieën vergt volgens de auteur nog veel tijd en inspanningen.
Andere bronnen over ChatGPT (geen tijd om kort te beschrijven of Nederlandstalig)
- Microsoft brengt het AI gevecht naar Google
- ChatGPT is everywhere. Here’s where it came from
- As ChatGPT hype hits fever pitch, Neeva launches its generative AI search engine internationally
- Why Banning ChatGPT in Class Is a Mistake
- Generative AI is coming for the classroom, whether teachers like it or not. Here’s why many in education think it should be embraced rather than shunned.
- ChatGPT and the Future of Digital Learning
- How Well Would ChatGPT Do in My Course? I Talked to It to Find Out
- It’s Time to Step off the AI Panic Carousel Before We Harm our Students
- ChatGPT Has Colleges in Emergency Mode to Shield Academic Integrity
- AI, ChatGPT, instructional design, and prompt crafting
- How ChatGPT will impact the future of education
- ChatGPT and VR – Changing the Way We Learn Soft Skills
- All my classes suddenly became AI classes
- The original startup behind Stable Diffusion has launched a generative AI for video
- ChatGPT consistently fails (most parts of) the assessment tasks I assign my students. Here’s why.
- We Gave ChatGPT 5 Common Teaching Tasks. Here’s How Teachers Say It Did
- ChatGPT Will Make Different Lexile Level Versions Of The Same Text
Mijn eerdere bijdragen over ChatGPT
- Zevende bloemlezing over ChatGPT
- Hoe risicovol is het gebruik van toepassingen als ChatGPT?
- Zesde bloemlezing over ChatGPT
- Gaat ChatGPT zorgen voor een transformatie van het MBO?
- Vijfde bloemlezing over ChatGPT
- Vierde bloemlezing over ChatGPT (dit keer een korte)
- ChatGPT maakt een aantal tips op het gebied van informatievaardigheden irrelevant
- Derde bloemlezing over ChatGPT
- Nog meer weten over ChatGPT
- Meer weten over ChatGPT?
- AI content generatie tools zoals ChatGPT leiden tot kansen en uitdagingen voor leren, opleiden en onderwijs
- Twee indrukwekkende toepassingen van AI die relevant zijn voor leren, opleiden en onderwijs
- Kan AI een paper schrijven waarvoor je een voldoende krijgt? (deze is van 3 maart 2021)
This content is published under the Attribution 3.0 Unported license.
Geef een reactie