Zesentwintigste bloemlezing over ChatGPT (en aanverwante technologieën)

Het is meer dan een maand geleden dat ik de laatste bloemlezing over ChatGPT (en aanverwante technologieën) heb geschreven. De afgelopen dagen heb ik heel veel verzamelde links bekeken (ontvangen mede dankzij oud-collega Harm Weistra). Hieronder vind je elf samenvattingen van bijdragen over ChatGPT (en aanverwante technologieën) en 89 links naar bijdragen in het Nederlands of die ik door tijdgebrek niet samenvat. En dit is een selectie van van de voorraad bronnen die ik in vier weken tijd heb verzameld. De samenvattingen verwijzen onder meer naar twee belangrijke ontwikkelingen op dit gebied van de afgelopen maand.

Dall-E:3D render of artificial intelligence on a hype cycle, on a dark purple background, digital art

Large language models, explained with a minimum of math and jargon

Tim Lee en Sean Trott hebben een uitgebreide bijdrage geschreven waarin zijn de werking van ‘large language models’ toelichten. Deze systemen zijn essentieel voor toepassingen als ChatGPT of Claude 2. Zij beogen om veel van deze kennis toegankelijk te maken voor een breed publiek. De auteurs leggen uit wat bekend is over de interne werking van deze modellen, en vermijden daarbij technisch jargon of geavanceerde wiskunde. Zij gaan in op woordvectoren, de verrassende manier waarop taalmodellen taal weergeven en erover redeneren. Daarna besteden zij aandacht aan de transformator. Tot slot leggen zij uit hoe deze modellen worden getraind en onderzoeken de auteurs waarom voor goede prestaties zulke fenomenaal grote hoeveelheden gegevens nodig zijn.

OpenAI gaat verbod op crawling in robots.txt respecteren

Arnoud Engelfriet licht toe hoe je kunt voorkomen dat generatieve AI-toepassingen de teksten van jouw website bijeen schrapen en gebruiken om hun enorme database met tekst te vullen. OpenAI (en ongetwijfeld ook andere ontwikkelaars van generatieve AI-applicaties) gaat namelijk een regel in de robots.txt-file van websites respecteren als daarin staat dat de zogenaamde crawler niet welkom is. Op dit moment gebeurt dat al met zoekmachines. Daarmee komen deze ontwikkelaars tegemoet aan bezwaren met betrekking tot het schenden van Auteursrecht. Als eigenaar van websites moet je wel weten hoe de diverse robots heten, schrijft Arnoud. Een risico van het weren van robots is wel dat de databases minder kwalitatief goede teksten gaan bevatten. Websites met nepnieuws zullen crawlers vast niet weren. Dit is wat mij betreft de eerste belangrijke ontwikkeling op het gebied van generatieve AI van de afgelopen weken. Zie ook: Websites blokkeren AI-scraping door GPTBot en Sites scramble to block ChatGPT web crawler after instructions emerge.

The truth about ChatGPT’s degrading capabilities

Dit is de tweede opvallende ontwikkeling ten aanzien van ChatGPT van de afgelopen weken (naast het kunnen blokkeren van webscraping). Ben Dickson schrijft over discussies over de mogelijk verminderende capaciteiten van ChatGPT-modellen zoals GPT-3.5 en GPT-4. Onderzoekers van Stanford University en UC Berkeley hebben ontdekt dat het gedrag van deze grote taalmodellen aanzienlijk is veranderd. Dit verschil in gedrag kun je volgens Dickson echter niet noodzakelijk interpreteren als een afname van capaciteiten. De studie waarschuwt wel voor de risico’s van het bouwen van applicaties op black-box AI-systemen zoals ChatGPT, die mogelijk kunnen leiden tot inconsistente of onvoorspelbare resultaten. Dickson benadrukt de behoefte aan transparantie in de gebruikte data en methoden voor het trainen van deze modellen. Zie ook Kwaliteit output GPT gaat achteruit loop van de tijd en Is ChatGPT getting dumber?

School district uses ChatGPT to help remove library books

Dit is waarschijnlijk het meest zorgwekkende artikel over generatieve AI dat ik in tijden heb gelezen. In verschillende Republikeinse Amerikaanse staten voeren overheden maatregelen in die scholen verplichten om boeken in de ban te doen die bijvoorbeeld beschrijvingen van seksuele handelingen bevatten. In Iowa worden boeken met behulp van ChatGPT uit schoolbibliotheken verwijderd om te voldoen aan nieuwe wetgeving die vereist dat schoolbibliotheekcatalogi “leeftijdsadequaat” zijn en geen “beschrijvingen of visuele afbeeldingen van een seksuele handeling” bevatten. Om te bepalen welke boeken verwijderd moesten worden, vroegen bibliothecarissen aan ChatGPT of een boek een beschrijving of afbeelding van een seksuele handeling bevatte. De antwoorden van ChatGPT waren niet altijd consistent. Toch geloven medewerkers dat dit de eenvoudigste manier is om aan de nieuwe wetgeving te voldoen. Andrew Paul meldt dat de Mason City Community School District op deze manier 19 boeken heeft verwijderd, waaronder bekende titels zoals “The Color Purple” en “The Handmaid’s Tale”. Deze casus illustreert wat mij betreft dat je digitale technologie op een heel onverstandige manier kunt gebruiken om te voldoen aan een absurde wet. Dort wo man Bücher verbannt, verbannt man am Ende auch Menschen (vrij naar Heinrich Heine).

Is It Really A Battle Of The Brains? AI Versus Human Intelligence

Christopher Pappas gaat in op de verhouding tussen kunstmatige ntelligentie (AI) en menselijke intelligentie. AI heeft nu capaciteiten die menselijke intelligentie nabootsen. Menselijke intelligentie is echter uniek in perceptie, redenering, geheugen en creativiteit. Hoewel AI grote hoeveelheden informatie kan verwerken, kan leren en beslissingen nemen, mist het bewustzijn, ‘emotionele intelligentie’, contextbegrip en authentieke creativiteit. Pappas concludeert dat hoewel AI zich ontwikkelt, de samenwerking met menselijke intelligentie vruchtbaar kan zijn, maar het kan de unieke aspecten van menselijke intelligentie niet vervangen.

Generative AI and education futures

Deze bijdrage bevat diverse korte video’s uit een keynote van emeritus-hoogleraar Mike Sharples tijdens editie 2023 van de UCL Education Conference. Sharples gaat daarbij in op de mogelijkheden om (generatieve) te gebruiken binnen het onderwijs. Hij focust zich op ChatGPT, de applicatie die hij ook introduceert. Aan de hand van voorbeelden, onderstreept hij kansen. Maar hij staat ook stil bij risico’s, en onderwerpen zoals verantwoordelijkheid en creativiteit. Je kunt zijn keynote handig selectief bekijken.

“Jobs Are Definitely Going to Go Away, Full Stop” Says OpenAI’s Sam Altman

Volgens deze bijdrage erkent OpenAI-oprichter Sam Altman in een interview met The Atlantic de ontwikkeling van het bedrijf richting zeer krachtige AI-systemen, wellicht zelfs kunstmatige algemene intelligentie (AGI). Hij uit onder meer zijn bezorgdheid over de impact van AI op werkgelegenheid. Altman onthult volgens de auteur dat OpenAI een gevaarlijke vorm van AI heeft ontwikkeld die ze nooit zullen vrijgeven. Door OpenAI’s beveiligingsinspanningen werd ontdekt dat GPT-4 mogelijk schadelijk advies kon geven, zoals instructies voor het bouwen van bommen. Als reactie werden beveiligingsmaatregelen geïmplementeerd. Ilya Sutskever, mede-oprichter van OpenAI, speculeert in een ander interview over toekomstige AI-agenten die autonome organisaties kunnen vormen, die zich mogelijk onttrekken aan menselijke controle.

Teaching in a Digital Age: Artificial Intelligence

Tony Bates heeft een nieuw hoofdstuk over AI toegevoegd aan zijn gratis online boek Teaching in a Digital Age. Bates benadrukt dat AI complex is en snel verandert, met uitdagingen zoals gebrek aan transparantie. Bates stelt dat men niet mag aannemen dat de voordelen van AI in andere velden automatisch gelden voor onderwijs. In het onderwijs kunnen AI-toepassingen institutioneel, studentgericht of gericht op doceren zijn, waarbij Bates focust op de laatste categorie. Hij geeft aan dat er twee hoofddoelen zijn voor AI in het onderwijs: kostenreductie (vaak ten koste van docenten) en het verhogen van de effectiviteit van het onderwijs. De ware test voor AI in het onderwijs, volgens Bates, is in hoeverre het helpt bij het ontwikkelen van vaardigheden voor het digitale tijdperk. In zijn bijdrage besteedt hij op basis van een reviewstudie aandacht aan diverse ‘affordances‘ of toepassingen van AI in het hoger onderwijs. Bijvoorbeeld: intelligentie tutoring systemen, het gebruik van adaptieve systemen en personalisering, het gebruik bij beoordelen en evalueren, chatbots en online proctoring.

The pros and cons of AI and the importance of preserving our humanity

Thom Dennis belicht de impact van technologie en digitalisering op de arbeidsmarkt. Grote bedrijven zoals BT en Octopus Energy implementeren al AI-oplossingen, resulterend in veranderde werkstructuren en klanttevredenheid. AI leidt tot diverse voordelen, zoals verbeterde efficiëntie, verhoogde nauwkeurigheid en tijdsbesparing. De auteur somt echter ook uitdagingen op zoals controleverlies, privacyzorgen, mogelijke werkloosheid en het risico van desinformatie. Dennis benadrukt de noodzaak van ethische toepassing van AI, regulering, en het behoud van menselijke waarden. Hij stelt voor om AI-training te bevorderen, duidelijke grenzen te stellen tussen realiteit en virtueel leven en menselijke contacten, emoties en relaties te bevorderen.

AI Won’t Replace Humans — But Humans With AI Will Replace Humans Without AI

Adi Ignatius spreekt met Karim Lakhani, hoogleraar aan de Harvard Business School en gespecialiseerd in werkplektechnologie en in het bijzonder AI. Lakhani laat zien welke gevolgen machine learning, AI en digitale technologieën hebben voor automatisering van werkzaamheden. Elke leidinggevende, elke werknemer moet volgens hem een digitale mentaliteit hebben. Dit betekent begrijpen hoe deze technologieën werken, maar ook hoe ze worden ingezet en welke veranderingsprocessen je in je organisatie moet doorvoeren om er gebruik van te maken. Gebruikers leggen de lat ook steeds hoger als het gaat om prestaties, omdat digitale technologie dit mogelijk maken. Een leven lang leren en weten hoe veranderingen doorgevoerd kunnen worden, zijn dan vereisten. Lakhani vergelijkt de lancering van generatieve AI met de lancering van de browser. De impact van de browser werd eerst onderschat, maar blijkt een grote invloed te hebben gehad op ons leven. Hij stelt bijvoorbeeld: If the internet was the cost of information dropping to zero, my sense is that the cost of cognition, how we think, who we think with, is dropping to zero, or lowering significantly. AI gaat volgens Lakhani mensen niet vervangen, maar mensen met AI gaan mensen zonder AI vervangen. Dit geldt volgens hem zeker voor generatieve AI. En, ja, er kleven de nodige beperkingen aan dergelijke applicaties. Maar ga er mee aan de slag. Deze technologie wordt alomtegenwoordig. Bovendien: er bestaan vooroordelen in de wereld. AI versterkt ze alleen. En: wees aardig tegen je robot.

Generative AI and Education: Adopting a Critical Approach

Sopio Zhgenti en Wayne Holmes gaan in op de opkomst en impact van generatieve AI in het onderwijs. GenAI-tools zoals ChatGPT kunnen snel output genereren, die door mensen gemaakt lijkt te zijn. Dit roept zorgen op over vals spelen door lerenden. Ondanks hun geavanceerde capaciteiten, zijn deze tools echter niet “intelligent” in de ware zin van het woord; ze begrijpen de inhoud die ze produceren niet echt. GenAI wordt vaak gezien als een ‘Black Box’, waarbij de exacte werking onbekend blijft. De systemen zijn afhankelijk van enorme datasets, wat leidt tot marktmonopolisering en het versterken van dominante perspectieven. De content die ze genereren kan intellectuele eigendomsrechten schenden. Zhgenti en Holmes benadrukken de noodzaak voor docenten en lerenden om kritisch te zijn ten opzichte van GenAI-content. Er is immers sprake van inherente fouten, vooroordelen en ethische vraagstukken.

Andere bronnen over ChatGPT (geen tijd om kort te beschrijven of Nederlandstalig)

Mijn eerdere bijdragen over ChatGPT (en aanverwante technologieën)

This content is published under the Attribution 3.0 Unported license.

Geef een reactie