Zeventiende bloemlezing over ChatGPT (en aanverwante technologieën)

Een reactie

Hieronder vind je weer ik een bloemlezing over ChatGPT en aanverwante technologieën. Het gaat om tien samenvattingen en meer dan zestig links naar Nederlandstalige bronnen of bronnen waar ik niet aan toe kom om ze samen te vatten. Er is inmiddels veel aandacht voor het hanteerbaar maken van risico’s. Maar hebben wij mensen nog wel grip op deze ontwikkeling? Is generatieve AI onze ‘Frankenstein’? De mogelijke gevolgen voor leren, opleiden en onderwijs worden ook nog steeds belicht.

Don’t pause AI development, prioritize ethics instead

Christina Montgomery en Francisca Rossi stellen dat we ons op een kritiek overgangspunt bevinden op het gebied van de ontwikkeling, implementatie en het gebruik van generatieve AI-systemen. Ze benadrukken dat het cruciaal is om ethische normen en richtlijnen voor AI te ontwikkelen en te verfijnen, en pleiten tegen een pauze in de ontwikkeling van AI om deze normen te ontwikkelen. In plaats daarvan zou verantwoordelijke professionalisering en een “ethics by design” aanpak over de hele AI-linie, ondersteund door “multi-stakeholder” samenwerking, deze systemen beter kunnen maken. Ze benadrukken ook de behoefte aan transparantie over hoe bedrijven de privacy van de data die met hun AI-systemen interacteren, beschermen. Ze roepen de private sector, overheden en wetgevers op om verantwoordelijkheid en ethiek voorop te stellen in hun AI-agenda’s, slimme regelgeving te implementeren en te werken aan transparantie in data-privacy.

3D render of Frankenstein using a laptop on a dark purple background, digital art
3D render of Frankenstein using a laptop on a dark purple background, digital art

‘Niemand had door wat het zou worden’

De snelle groei van kunstmatige intelligentie (AI) zorgt voor existentiële vragen en bezorgdheid, ook onder degenen die de technologie ontwikkelen. De auteur vraagt zich af: “Hebben we het Frankenstein-moment bereikt, waarop de wetenschappers en de vooruitgangsdenkers plots de gevaren inzien van een zelfgecreëerd monster?” Geoffrey Hinton, een van de pioniers van AI, uitte onlangs zijn zorgen over de gevaren van AI. Hij vreest onder andere de verspreiding van nepnieuws en de impact op de arbeidsmarkt. Ook anderen waarschuwen voor de ongecontroleerde ontwikkeling van AI. Er zijn oproepen om de ontwikkeling van AI tijdelijk te pauzeren. Er zijn echter ook experts die benadrukken dat de angst vaak groter is dan het werkelijke gevaar en dat de focus moet liggen op verantwoordelijk gebruik en regulering van AI. De geschiedenis leert dat je angst terug ziet bij elke disruptieve technologie die succesvol is, bijvoorbeeld ook bij de uitvinding van de elektriciteit. De manier waarop mensen AI inzetten, versterkt bestaande problemen zoals nepnieuws en manipulatieve algoritmen. Het ware risico schuilt dus in de toepassing van de technologie.

Dit is wat ik een groot gevaar aan AI vind

Erwin Blom is groot liefhebber van de mogelijkheden die AI biedt. Generatieve AI maakt het echter moeilijker om de authenticiteit en waarheid van digitale content te verifiëren, waardoor ongeloof en wantrouwen de standaardhouding kunnen worden in plaats van vertrouwen. Voor een maatschappij die afhankelijk is van samenhang en binding, is dit een zorgwekkende trend. Elke technologie die voor zowel goede als slechte doeleinden kan worden gebruikt, onvermijdelijk ook voor het slechte zal worden gebruikt. Erwin heeft geen pasklare oplossing voor deze problematiek.
Volgens mij zul je vooral moeten kijken naar de persoon of organisatie die generatieve AI gebruikt om digitale content te produceren? Wat is diens reputatie? Hoe legt de persoon/organisatie verantwoording af over het gebruik van AI? Hoe gaat de persoon/organisatie om met AI? Daarom heb ik zelf via deze bijdrage beschreven hoe ik generatieve AI-toepassingen gebruik. Door daar transparant over te zijn en o.a. aan te geven dat menselijke beoordeling aan publicatie vooraf moet gaan, hoop ik vertrouwen te wekken in de manier waarop ik AI gebruik.

Five ways AI has already changed higher education

Volgens Tom Williams en Jake Grove zijn er vijf manieren waarop kunstmatige intelligentie (AI) de onderwijssector al ingrijpend heeft veranderd:

  1. Herstructurering van bedrijfsmodellen: De opkomst van generatieve AI dwingt bedrijven zoals leveranciers van leertechnologie om hun bedrijfsmodellen te herzien. AI-tools zoals ChatGPT leiden tot verminderde aanschaf van traditionele educatieve hulpmiddelen. Bedrijven zullen hun aanbod aan producten toekomstbestendig moeten maken.
  2. Inzet van bots voor onderwijs en studentenondersteuning: ChatGPT en vergelijkbare tools leiden tot geavanceerde chatbots die kunnen helpen bij het beantwoorden van vragen en het geven van onderwijs. Deze chatbots kunnen ook zorgen voor persoonlijke ondersteuning, ondersteuning bij welbevinden en counseling.
  3. Ontlasting van begeleiders die betrokken zijn bij toelating: AI helpt de werkdruk voor deze begeleiders te verlichten door in de toekomst mogelijk bepaalde aanvragen te elimineren die zeer onwaarschijnlijk worden toegelaten. De vraag is hierbij wat mij betreft of dat acceptabel is. Menselijke beoordeling moet hieraan ten grondslag liggen. Daarnaast wordt er gekeken naar de implementatie van chatbots om basisvragen van potentiële aanvragers te beantwoorden.
  4. Vinden van wetenschappelijke artikelen en analyse van citaten: AI-tools helpen bij het vinden van relevante wetenschappelijke artikelen en het visualiseren van patronen in citaten. Nieuwe producten zoals scite kunnen betrouwbare antwoorden rechtstreeks uit de volledige tekst van onderzoeksartikelen destilleren en helpen bij het identificeren van nuttige papers.
  5. Kwaliteitscontrole van papers: AI kan helpen bij het snel en betrouwbaar scannen van wetenschappelijke artikelen om hun kwaliteit te beoordelen. AI-tools zoals Semantic Scholar kunnen wetenschappelijke literatuur samenvatten en beoordelen. Dit bespaart tijd voor onderzoekers.

POV: AI is going to transform education for neurodivergent students, not destroy it

Jenny Wu benadrukt dat AI het onderwijs op onvoorstelbare wijze transformeert. AI heeft volgens haar de kracht om grote hoeveelheden gegevens te analyseren, patronen en trends te identificeren en gepersonaliseerde leerervaringen te creëren. Hierdoor kan onderwijs effectiever, toegankelijker en inclusiever worden. Zij stelt dat AI met name mogelijkheden biedt voor ‘neurodivergente’ lerenden, die vaak moeite hebben met het verwerken van informatie. Door AI te gebruiken om individuele behoeften te identificeren en aan te pakken, kunnen gepersonaliseerde leerervaringen worden geboden, wat kan leiden tot meer inclusief en toegankelijk onderwijs, meent zij. Wu noemt als één van de belangrijkste voordelen van AI dat bijvoorbeeld lerenden met dyslexie of aandachtstekortstoornis, die moeite hebben met lange alinea’s in studieboeken, AI-toepassingen zoals ChatGPT kunnen gebruiken om tekst in een format met opsomingen kunnen herschrijven. Dit helpt deze lerenden de leerinhoud gemakkelijker te begrijpen en te onthouden.

ChatGPT: New Technology, Same Old Misogynoir

Dit is ernstig. Mutale Nkonde laat zien dat ChatGPT bijdragen aan de menselijke geschiedenis van vrouwen, kinderen en mensen die niet-standaard Engels spreken onvoldoende representeert. ChatGPT weet bijvoorbeeld niet dat blueszangeres Bessie Smith – een baanbrekende zangeres die generaties blues-, jazz- en rockmuzikanten heeft beïnvloed – de befaamde gospelzangeres Mahalia Jackson sterk heeft beïnvloed. Smith had zeer veel succes en invloed op honderden muzikanten, waaronder onder andere Billie Holiday, Janis Joplin en Elvis Presley. Deze informatie ontbreekt in de trainingsdatabase omdat deze gevoed met informatie van musicologen die Smith’s werk het liefste negeren. Ik heb ChatGPT overigens gevraagd: Beschrijf de invloed van blueszangeres Bessie Smith op diverse generaties blues-, jazz- en rockmuzikanten. Dat leidde overigens tot een behoorlijke lofzang op Smith, waarbij ook verwezen wordt naar haar invloed op Joplin. Wellicht is de inhoud van de trainingsdatabase inmiddels aangepast. Dat zou goed zijn (al is voorkomen beter).

How ChatGPT can help disrupt assessment overload

Volgens hoogleraar David Carless is het belangrijk om de praktijk van het beoordelen in het onderwijs te heroverwegen in het licht van de recente ontwikkelingen op het gebied van generatieve AI, zoals ChatGPT. Carless benadrukt dat er sprake is van een “beoordelingsoverbelasting”, waardoor lerenden vaak hun werk haastig afronden of zelfs plagiaat plegen. De auteur stelt voor om het aantal beoordelingen te verminderen en meer te focussen op diepgaand begrip dan op prestaties. Door lerenden bij het ontwerpen van hun eigen beoordelingstaken te betrekken, kunnen ze waardevoller en origineler werk produceren. Daarnaast kunnen generatieve AI-tools als ChatGPT snelle feedback geven op voortgang van het werk. Dit stimuleert lerenden om hun leerproces te documenteren. AI-toepassingen zoals ChatGPT maken stapsgewijze, procesgerichte beoordelingen mogelijk, zoals: lerenden proberen verschillende prompts uit met ChatGPT; zij evalueren en bouwen voort op de output ervan; zij leren AI-hallucinaties en onnauwkeurigheden op te sporen; ze relateren de inhoud aan andere modules of belangrijke colleges; of zij spitsen de inhoud toe naar reële gebeurtenissen in een specifieke context. Tenslotte stelt Carless voor om te overwegen om de potentie van mondelinge digitale beoordelingen meer te benutten.

Mediocrity Is Over: The ChatGPT Threat To Average Instructional Design

ChatGPT kan volgens David James de manier waarop ontwerpers van leertrajecten werken uitdagen. Vooral diegenen die middelmatige inhoud leveren. ChatGPT kan reageren op specifieke vragen van gebruikers en leren van feedback, en het kan worden getraind om de nuances van een organisatie te begrijpen. Dit maakt het mogelijk om zeer relevante, op maat gemaakte leerinhoud te ontwikkelen. ChatGPT is volgens James niet noodzakelijk beter dan de beste ‘instructional designer’, maar de applicatie biedt wel voldoende concurrentie om een wake-up call te zijn voor de L&D-sector. James stelt: So should all instructional designers be worried? No, not immediately. But the huge number of mediocre and subpar designers should be.. En dan moeten de meest krachtige versies van ChatGPT nog ontwikkeld worden…

How does ChatGPT differ from human intelligence?

Deze bijdrage is een verslag van een conversatie tussen twee wetenschappers van Brown University. Deze bijdrage typeert ChatGPT als een machine learning model dat menselijke communicatie nabootst door het volgende woord in een zin te voorspellen. Het is getraind op grote hoeveelheden data en kan daardoor zeer realistisch klinkende teksten genereren. ChatGPT leert echter niet als een mens en het ‘denken’ van ChatGPT is niet gelijk aan menselijk denken. De AI-toepassing gebruikt een kunstmatig neuraal netwerk, geïnspireerd door neuronen in een menselijk brein, maar de werking blijft een vereenvoudiging van menselijke cognitieve processen. Daarnaast wordt ChatGPT niet in real-time bijgewerkt en verandert elk uitgevoerd commando niet automatisch de volgende uitvoer, zoals bij menselijke intelligentie het geval zou zijn. Menselijke en artificiële intelligentie blijven fundamenteel verschillend.

What every CEO should know about generative AI

Generatieve AI -toepassingen kunnen volgens deze auteur waarde kan creëren voor organisaties. CEO’s moeten zich actief bemoeien met het formuleren van een strategie hoe hiermee om te gaan. De tekst geeft een introductie tot generatieve AI, legt uit hoe het verschilt van traditionele AI en presenteert voorbeelden van hoe generatieve AI kan worden toegepast om de slagkracht van organisaties te verbeteren. Een voorbeeld is het gebruik van generatieve AI voor het ontwikkelen van op personen toegespitste marketing content. De bijdrage benadrukt ook de rol van de CEO hierbij. Zo zouden verantwoordelijken uit het bedrijfsleven zich moeten richten op het opbouwen en onderhouden van een evenwichtige reeks allianties. De acquisitie- en alliantiestrategie van een organisatie moet gericht blijven op het opbouwen van een ecosysteem van partners, afgestemd op verschillende contexten en op wat generatieve AI vereist.

Andere bronnen over ChatGPT (geen tijd om kort te beschrijven of Nederlandstalig)

Mijn eerdere bijdragen over ChatGPT

This content is published under the Attribution 3.0 Unported license.

Delen

Een reactie

  1. Bedankt voor deze geweldige blog. Met de meeste van je punten ben ik het eens. AI beïnvloedt inderdaad veel sectoren, met name het onderwijs, met tools zoals ChatGPT. Maar als het helpt om het onderwijs interactief te maken, dan zie ik daar geen probleem in

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *