Generatieve AI: Rathenau Scan (en uitkomst peiling behoefte bloemlezingen generatieve AI)

Het Rathenau Instituut heeft een scan over generatieve AI (GAI) samengesteld waarin men de balans probeert op te maken ten aanzien van een ontwikkeling die flink in beweging is. Deze blogpost bevat een bespreking van dit rapport. Ik doe ook verslag van mijn peiling over de behoefte aan bloemlezingen op het gebied van ChatGPT en aanverwante technologieën.

Het Rathenau Instituut gaat in dit rapport in op: wat is generatieve AI, wat kan het nu, en wat misschien later? Welke kansen, risico’s voor publieke waarden en beleidsopties zijn ermee verbonden?

In het eerste hoofdstuk beschrijven de samenstellers op een toegankelijke manier wat generatieve AI (GAI) is. Zij stellen onder meer dat deze AI-systemen automatisch content kunnen creëren zoals samenvattingen of afbeeldingen, en dat generatieve AI een subgroep zijn van lerende AI-systemen, met enkele bijzondere eigenschappen. Deze systemen zijn bijzonder vaardig in taal, kunnen werken met diverse modaliteiten zoals beeld en geluid, en zijn geschikt maakt voor diverse toepassingen. Deze eigenschappen onderscheiden generatieve AI van ‘narrow AI’, die slechts voor één specifieke taak is getraind.

In hoofdstuk twee kun je lezen dat generatieve AI verschillende rollen kan vervullen, zoals een leerinstrument, een productietool, een complexe probleemoplosser, en zelfs als een middel voor het creëren van ervaringen. Deze rollen bieden de nodige kansen en zullen ook van invloed zijn op verschillende maatschappelijke domeinen.

De auteurs stellen echter ook dat deze technologie beperkingen en risico’s met zich meebrengt. De systemen genereren antwoorden op basis van waarschijnlijkheid, wat kan leiden tot incorrecte of discriminerende content. Daarnaast zijn de algoritmes complex, waardoor hun werking zelfs voor ontwikkelaars beperkt begrijpelijk is. Deze risico’s kunnen publieke waarden ondermijnen die in drie thema’s worden geclusterd: veiligheid (zoals privacy, vooroordelen en foute informatie), mensgerichtheid (impact op cognitieve, sociale en culturele ontwikkeling), en eerlijkheid (vragen over wie profiteert en wie de lasten draagt, werkverandering, creatieve beroepen, en milieu-impact). Bestaande risico’s in de digitale samenleving worden door GAI versterkt en nieuwe worden geïntroduceerd.

De Generatieve AI-scan adviseert het kabinet om een strategie te ontwikkelen om de grip op deze technologie te verbeteren. Dit omvat het evalueren en aanscherpen van Nederlands en Europees beleid, het ondersteunen van toezicht, het maken van afspraken met ontwikkelaars, en de samenleving waarschuwen voor de risico’s van GAI. Het rapport benadrukt het belang van een wereldwijde benadering van de risico’s van GAI en biedt vijf handelingsopties voor het kabinet: het vermogen creëren om schadelijke GAI-toepassingen van de markt te halen, zorgen voor toekomstbestendige juridische kaders, investeren in internationaal AI-beleid, een agenda opstellen voor maatschappelijk verantwoorde GAI, en het stimuleren van maatschappelijk debat over de wenselijkheid van GAI.

Mijn opmerkingen

Deze scan is een informatief document, mede dankzij enkele handige infographics. De toelichting op GAI is erg zinvol voor niet-ingewijden. Kansen en risico’s zijn overzichtelijk geclusterd en de auteurs wijzen op relevante beleidsmaatregelen. Het Rathenau Instituut probeert de balans op te maken van de ontwikkeling van GAI. Toch vind ik het rapport niet echt in balans. Het accent ligt op de risico’s, en minder op de kansen. Er wordt ook niet aangegeven hoe groot een risico is, en hoe groot de impact kan zijn. Bijvoorbeeld het risico dat je een taalmodel kunt voeden met foutieve informatie. Bovendien mis ik bij de handelingsopties de aandacht voor digitale geletterdheid waar AI m.i. een cruciaal onderdeel van is. Je kunt m.i. risico’s op het gebied van GAI beheersen als je wijs omgaat met deze technologieën. Je kunt namelijk vermijden dat een applicatie als ChatGPT gaat hallucineren. Dit is namelijk afhankelijk van de prompts die je invoert.

Rathenau Instituut (2023). Generatieve AI. Den Haag. Auteurs: Hamer, J., L. Kool, B. Hijstek, Q. van Eeden en D. Das

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

Nota bene

Zoals je merkt, ben ik uitgebreider ingegaan op op één bijdrage rond generatieve AI, en heb ik vandaag geen bloemlezing geschreven. Dat is het resultaat van de vraag die ik twee weken geleden heb gesteld (N=39):

Ik zal dus voortaan regelmatig uitgebreider schrijven over één publicatie of één aspect van generatieve AI.

Andere bronnen over generatieve AI

Ik wil wel nog een aantal links van bijdragen met jullie delen die ik niet ga bespreken:

This content is published under the Attribution 3.0 Unported license.

Geef een reactie