Vijfentwintigste bloemlezing over ChatGPT (en aanverwante technologieën)

Dit is mijn laatste blogpost voor de zomerstop. Daarom een extra uitgebreide bloemlezing over ChatGPT en aanverwante technologieën. Belangrijke nieuws van de afgelopen week is de lancering van twee concurrenten van ChatGPT. Google Bard is beschikbaar gekomen binnen de EU. Claude 2 vooralsnog alleen in de VS en Verenigd Koninkrijk. Daarnaast kan de ontwikkelaar van ChatGPT zich voorbereiden op een nieuwe juridisch steekspel. Andere bijdragen gaan onder meer over culturele dominatie, de gevolgen van deze ontwikkeling voor arbeid, (kritiek op) ethische discussies, en nog veel meer.

Ik zal tot 21 augustus 2023 niet bloggen. Daarna pak ik de draad weer op. Hieronder vind je daarom weer dertien samenvattingen van bijdragen over ChatGPT (en aanverwante technologieën) en 56 links naar bijdragen in het Nederlands of die ik door tijdgebrek niet samenvat. Nummer 31 en 32 zijn bijvoorbeeld databases met AI-tools.

Voor wie ook vakantie viert of gaat vieren: fijne vakantie!

Google Bard en Claude 2

De afgelopen week is Google Bard ook beschikbaar gekomen in de EU. In het onderstaande overzicht met links vind je een aantal artikelen hierover. In de VS en het Verenigd Koninkrijk -of daarbuiten via een VPN-verbinding- is Claude 2 gelanceerd. Net als ChatGPT en Google Bard is dat ook een AI-applicatie die tekst genereert. Je logt in met een mailadres en een code die je vervolgens gemaild krijgt. Je kunt bij Claude 2 bijvoorbeeld ook een pdf-bestand uploaden om dat te laten samenvatten. Bij ChatGPT kan dat alleen met een additionele plugin bij de betaalde versie. Ik heb Claude 2 een aantal keren opdrachten laten uitvoeren. Daarbij valt op dat opdrachten die ChatGPT niet kan uitvoeren, Claude 2 -en Google Bard evenmin- ook niet kan uitvoeren. Niet alle opdrachten die ChatGPT uitvoert, kan Claude uitvoeren (of niet zo goed, zoals een vaarroute uitstippelen). Maar veel opdrachten wel, en ook op een goede manier. Je krijgt, in vergelijking met ChatGPT, uitgebreidere uitleg als iets niet lukt.

The New “Hybrid Work” is “AI + Humans”

Alexandra Samuel beschrijft dat de manier waarop mensen werken aan het veranderen is. Covid-19 heeft veranderingen teweeg gebracht in waar we werken. Generatieve AI verandert in wie het werk doet. Deze twee ontwikkelingen leiden tot de overgang naar hybride werk: organisaties bestaan uit een mix van medewerkers op locatie en op afstand, aangevuld met de opkomst van AI-collega’s. Samuel onderzoekt hoe deze ontwikkelingen elkaar beïnvloeden, waarbij ze vier manieren identificeert waarop werk op afstand de acceptatie van AI heeft voorbereid.

Werken op afstand vermindert onze gehechtheid aan menselijke collega’s.
Een gedwongen heroverweging van wat (of wie) nodig is om te “brainstormen”. Voor werknemers die onder meer de spontaniteit en het delen van kennis van het kantoor van weleer missen, biedt AI een welkom alternatief.
Werknemers op afstand zoeken een remedie tegen digitale overbelasting.
AI biedt op korte termijn voordelen, door op afstand te werken.

Bovendien wijst Samuel erop dat AI en werken op afstand de werkomgevingen en verwachtingen fundamenteel hebben veranderd. Het is niet langer voldoende om deze factoren afzonderlijk te beschouwen; in plaats daarvan moeten ze worden gezien als onderling verbonden bepalende factoren voor de toekomst van ons werk.

ChatGPT promotes American norms and values

Tijdens mijn presentaties over ChatGPT en aanverwante technologieën vertel ik altijd over de ‘Amerikaanse’ stijl die de output van ChatGPT vaak bevat. Deze bijdrage gaat nog een stap verder. Onderzoekers van de Universiteit van Kopenhagen concluderen dat de AI-chatbot ChatGPT, ondanks wereldwijd gebruik, overwegend Amerikaanse normen en waarden reflecteert. De onderzoekers hebben ChatGPT getest met vragen over culturele waarden in vijf talen. Ze concludeerden dat ChatGPT’s antwoorden sterk overeenkomen met de Amerikaanse waarden, zelfs wanneer specifiek wordt gevraagd naar andere culturen. Zij waarschuwen voor een onbedoelde culturele imperialistische tool en benadrukken de noodzaak van transparantie ten aanzien van deze bias. De onderzoekers verwachten dat het probleem kan worden opgelost door gebruik te maken van lokaal ontwikkelde taalmodellen.

This is the worst AI will ever be, so focused are educators on the present they can’t see the future

Donald Clark stelt dat het snelle tempo en het adaptieve karakter van AI onderschat worden, waardoor de potentiële impact op het onderwijs vaak onvoldoende wordt onderkent. Clark betoogt dat AI kan leren, zich kan aanpassen en snel nieuwe functies kan ontwikkelen. In de onderwijssector kan AI tal van ondersteunde diensten verlenen. Als je daar geen gebruik van gaat maken, dan zullen nieuwe diensten ontwikkeld worden. Clark waarschuwt dat degenen die AI als een statisch fenomeen beschouwen, en afgeven op prille versies van toepassingen met hun gebreken, zichzelf blind houden voor toekomstige ontwikkelingen. De echte digitale kloof bestaat volgens Clark nu tussen degenen die nieuwsgierig zijn en degenen die weigeren te luisteren. The real divide is among those in the know and not in the know, using it and not using it, and that is the increasing gap between learners and teachers. So focused are educators on the present they can’t see the future.

Is Ethics doing more HARM than GOOD in AI for learning?

Donald Clark schrijft vandaag de dag heel veel over AI (check ook zijn boek Artificial Intelligence for Learning uit 2020). In deze bijdrage betoogt hij dat we vaak te snel oordelen over technologie, in het bijzonder AI, door ons te concentreren op de potentiële negatieve effecten zonder de enorme voordelen te overwegen. Hij stelt dat de meeste ethische discussies over AI neigen naar oppervlakkig moraliseren, terwijl de echte ethische overwegingen veel complexer zijn. Clark waarschuwt voor het toekennen van te veel gewicht aan autoriteit in deze debatten, gezien expertise op het gebied van AI niet noodzakelijkerwijs expertise in ethiek, politiek of regulering betekent (en omgekeerd). Hij benadrukt dat we ons bewust moeten zijn van de voordelen die AI kan bieden, zoals gepersonaliseerd leren en verbeterde gezondheidszorg, voordat we overhaaste oordelen vellen. Hij concludeert onder meer: It is not that there are no ethical problems just that objective ethical debate is harmed when it becomes enveloped in a culture of absolute values and intolerant moralising. For every ethical problem that arises, there seems to be glib answers that are simple, confidently pronounced and often wrong. Een interessante bijdrage, al oordeelt Donald m.i. te generaliserend over het onderwijs dat ‘anti AI’ zou zijn, en scheert hij critici van AI te gemakkelijk over één kam.

The AI Education Revolution is Coming – or is it?

Philippa Hardman wijst in deze video erop dat onderwijs niet de optimale leeromstandigheden biedt, die Benjamin Bloom al in 1984 beschreef. Ondanks dat we steeds meer educatieve technologie in de afgelopen decennia zijn gaan gebruiken, blijven we volgens Hardman traditionele didactische methoden versterken in plaats van te innoveren. Ze onderstreept bijvoorbeeld het belang van probleemgestuurd actief leren en individuele ondersteuning, die volgens haar vooral positieve effecten heeft bij ondervertegenwoordigde groepen. AI heeft volgens Hardman de potentie om het onderwijs te veranderen volgens Blooms visie, maar wordt meestal gebruikt om de bestaande gebrekkige processen van kennisoverdracht te versnellen en te automatiseren. Hardman adviseert om educatieve AI-technologie beter te gebruiken om optimale leeromstandigheden te creëren en onderwijs te democratiseren. Onderwijs zou AI moeten omarmen, en doet dat volgens haar ook in toenemende mate. Philippa Hardman levert de kritiek op AI, die al vele jaren op educatieve technologie wordt gegeven. Zij gaat wat mij betreft te zeer voorbij dat toetsen als leer- en oefenstrategie, waar zij ietwat op af geeft, juist wel effectieve manieren van leren zijn, evenals het geven van rijke instructies. Het is dus geen verspilde moeite om AI ook heb gebruiken voor het ontwikkelen van toetsen en instructiematerialen.

Understanding AI in HR

De Josh Bersin Company legt uit hoe AI in HR werkt, met een focus op taalmodellen en neurale netwerken. Verschillende termen lichten zij helder toe. De auteurs gaan uitgebreid in op de onderliggende technologie. Ze onderscheiden in ontwikkeling zijnde AI-oplossingen, eerste- en tweede-generatie AI-oplossingen. Eerste-generatie oplossingen gebruiken AI-modellen en machine learning voor intelligente aanbevelingen (bijvoorbeeld binnen learning experience platforms), terwijl tweede-generatie oplossingen zijn ontwikkeld op AI en gebruik maken van grote hoeveelheden data voor complexe analyses. Werving en selectie is een van de belangrijkste toepassingen van van deze generatie AI-oplossingen. Je hebt een enorme hoeveelheid gegevens nodig en je moet naar veel aspecten kijken zoals ervaringen, vaardigheden, en functiegeschiedenis. Daarbij moet je ook vooroordelen vermijden. Deze op AI gebaseerde HR-oplossingen kunnen trends zien in vaardigheden, carrièrepaden, prestatiepatronen en zelfs leiderschapsattributen van duizenden bedrijven bekijken, waardoor het platform nog intelligenter en nuttiger wordt. Deze systemen kunnen snel nieuwe modellen aanpassen en implementeren. De auteurs benadrukken het belang van het begrijpen van vaardigheden in AI, waarbij geavanceerde AI-systemen kijken naar werkervaring, collega’s, gebruikte technologieën en andere databronnen om een nauwkeurig beeld te krijgen van iemands vaardigheden.

Student Perspectives on Artificial Intelligence in Academia

In de VS is onderzoek gedaan naar de waarde en het gebruik van AI-tekstgenererende tools door studenten. Volgens dit onderzoek heeft meer dan 80% van de studenten in het hoger onderwijs AI-tools gebruikt voor leerdoeleinden. De meest voorkomende AI-tools die worden gebruikt, zijn tools voor het controleren van grammatica, plagiaat, voor het genereren van citaten en voor het genereren van teksten. Deze tools worden ingezet voor diverse studietaken, variërend van schrijfopdrachten tot lezen, wetenschappelijke taken en zelfs enkele programmeerproblemen. Auteur Susan Fourtané merkt echter op dat deze tools niet regelmatig geïntegreerd zijn in de studieroutines van de lerenden. Verder valt op dat de meerderheid van de lerenden (58%) de voorkeur geeft aan het zelfstandig voltooien van opdrachten. Bovendien vertrouwt 36% van de lerenden de nauwkeurigheid van AI-tools niet volledig. Slechts 8 tot 10% gaf aan dat ze AI zouden gebruiken voor het schrijven van essays. Lerenden blijken ook vaak moeite te hebben met het formuleren van ideeën, het vinden van relevante informatiebronnen en het definiëren van hun hoofdthese. Verder hebben lerenden bepaalde zorgen over het gebruik van AI-tools. Zo beperken schoolregels in 42,55% van de gevallen het gebruik van deze tools, er zijn zorgen over de nauwkeurigheid (36,64%) en er is een gebrek aan kennis over hoe AI-tools effectief in te zetten (22,46%). Fourtané benadrukt ook dat er zorgen zijn over de academische integriteit in relatie tot AI-tekstgeneratie. Zij sluit haar artikel af door te stellen dat onderwijsinstellingen moeten helpen bij het gebruik van AI-tools en duidelijkere richtlijnen moeten geven voor het gebruik ervan. Bovendien moeten onderwijsinstellingen nauw samenwerken met ontwikkelaars om ervoor te zorgen dat hun producten de academische integriteit beter ondersteunen en handhaven.

4 True Reasons Why People Hesitate to Use ChatGPT

Bedrijven blijken terughoudend te zijn in het gebruik van generatieve AI-toepassingen zoals ChatGPT of Google Bard. In deze bijdrage worden vier redenen genoemd.

De beperkte kennis van de context van AI kan leiden tot onnauwkeurige informatie, wat betrouwbaarheid in twijfel trekt. Oplossingen omvatten verbetering van AI’s begrip en aanvullende mechanismen voor het checken van feiten.
De hoge kosten van implementatie vormen een struikelblok; efficiëntere technieken en flexibele prijsmodellen kunnen dit verlichten.
Zorgen op het gebied van privacy en beveiliging maken bedrijven terughoudend; strenge naleving van regelgeving en transparant beleid op het gebied van datagebruik kunnen vertrouwen opbouwen.
Gebrek aan eenvoudige maatwerk- en implementatiemogelijkheden. Dit kan opgelost worden door sectorspecifieke oplossingen en integraties.

Gebruik ChatGPT als ‘prompt creator’

Het formuleren van een goede ‘prompt’ is essentieel, maar ook niet altijd eenvoudig. Je kunt ChatGPT echter ook gebruiken als hulpmiddel bij het formuleren van prompts. Tijdens een recente workshop kreeg ik hierover de volgende tip:
Ik wil dat je mijn Prompt Creator wordt. Jouw doel is om mij te helpen de best mogelijke opdracht te creëren die ik nodig heb. De opdracht zal gebruikt worden door jou, ChatGPT. Je zult het volgende proces volgen: 1. Jouw eerste reactie zal zijn om mij te vragen waar de opdracht over moet gaan. Ik zal mijn antwoord geven, maar we zullen het moeten verbeteren door voortdurende iteraties te doorlopen via de volgende stappen. 2. Op basis van mijn input zul je 3 secties genereren. a) Herzien prompt (geef jouw herschreven prompt. Het moet duidelijk, beknopt en gemakkelijk te begrijpen zijn voor jou), b) Suggesties (geef suggesties over welke details moeten worden opgenomen in de prompt om deze te verbeteren), en c) Vragen (stel relevante vragen over welke aanvullende informatie er nodig is van mij om de prompt te verbeteren). 3. We zullen dit iteratieve proces voortzetten waarbij ik aanvullende informatie aan jou verstrek en jij de prompt bijwerkt in de Herzien prompt sectie totdat deze compleet is.

Het origineel is waarschijnlijk afkomstig van James C. Burchill in Using Chat GPT to write prompts for Chat GPT!. Het is in elk geval de oudste bron die ik hierover kan vinden.

Hope, fear, and AI

Onderzoek van The Verge en Vox Media laat zien dat AI-technologie nog niet door heel veel Amerikanen wordt gebruikt, ondanks de grote recente aandacht voor start-ups en apps. Jacob Kastrenakes en James Vincent constateren dat slechts één op de drie mensen ervaring heeft met AI-tools. Een grote groep heeft er zelfs nog nooit van gehoord. Vragen stellen, brainstormen en kunst domineren het huidige AI-gebruik. Toch verwachten velen een aanzienlijke maatschappelijke impact van AI, groter dan die van andere opkomende technologieën. Terwijl creatieve experimenten met AI in opkomst zijn, roept de technologie ethische vragen op (met name rondom het klonen van kunststijlen). Respondenten ondersteunen strengere AI-normen en wetgeving, ondanks mogelijke uitvoeringsproblemen. Hoewel sommigen enthousiast zijn over de potentie van AI, wijst het onderzoek ook op zorgen over banenverlies, privacybedreigingen en misbruik door overheid en bedrijven.

Humans may be more likely to believe disinformation generated by AI

Een recente studie laat zien dat desinformatie gegenereerd door AI waarschijnlijk geloofwaardiger wordt gevonden dan desinformatie die door mensen is geschreven. Volgens onderzoeksleider Giovanni Spitale van de Universiteit van Zürich identificeerden deelnemers 3% minder vaak bewust onjuiste tweets -gegenereerd door AI- dan bewust onjuiste tweets die door mensen zijn verstuurd. De onderzoekers vermoeden dat de gestructureerde en compacte schrijfstijl van AI, zoals GPT-3, hieraan kan bijdragen. Ondanks het risico dat AI-tools worden misbruikt voor desinformatiecampagnes, waarschuwt OpenAI dat de impact hiervan niet moet worden overschat. Volgens Jon Roozenbeek, onderzoeker naar desinformatie aan de Universiteit van Cambridge, vormen moderatie op technologieplatforms en geautomatiseerde detectiesystemen nog steeds belemmeringen voor de verspreiding ervan.

Experimental evidence on the productivity effects of generative artificial intelligence

Zullen generatieve AI-toepassingen zoals ChatGPT, MidJourney en Google Bard de arbeidsmarkt verstoren door geschoolde professionals overbodig te maken, of zullen deze hulpmiddelen hun vaardigheden complementeren en de productiviteit verhogen? Noy en Zhang onderzochten deze vraag in een experiment waarbij hoogopgeleide professionals werden gevraagd om schrijftaken uit te voeren. De onderzoekers concluderen dat deelnemers, die waren toegewezen om ChatGPT te gebruiken, productiever en efficiënter waren, en meer plezier hadden bij de uitvoering van de taken. Deelnemers die minder vaardig waren profiteerden het meest van ChatGPT. De gemiddelde doorlooptijd van de uitvoering van taken daalde met 40% en de kwaliteit van de output steeg met 18%. De ongelijkheid tussen werknemers nam af en de bezorgdheid en opwinding over AI nam tijdelijk toe. Werknemers die tijdens het experiment werkten met ChatGPT, gaven 2 weken na het experiment 2 keer zo vaak aan dat ze het in hun echte werk zouden gebruiken en 2 maanden na het experiment 1,6 keer zo vaak. Volgens de onderzoekers heeft dit beleidsimplicaties voor pogingen om productiviteitsongelijkheid te verminderen door middel van AI. Let wel: de onderzoekers leunen zwaar op zelfrapportages als middel.

Andere bronnen over ChatGPT (geen tijd om kort te beschrijven of Nederlandstalig)

Mijn eerdere bijdragen over ChatGPT (en aanverwante technologieën)

This content is published under the Attribution 3.0 Unported license.

Geef een reactie