Nee. AI is geen hype. Het is een trend. Maar wel een trend met ‘hype-achtige’ trekken, en tekortkomingen. Leren, opleiden en onderwijs zijn dan volgens twee auteurs over AI belangrijk om AI verder te ‘ontsluieren’ en je te weer te stellen tegen de hausse aan hypes die met betrekking tot AI over je heen komen. En kritisch te kijken naar de onderliggende belangen (vind ik).
Dat stellen Princeton-onderzoekers Arvind Narayanan en Sayash Kapoor volgens Wired in het boek ‘AI Snake Oil’. De auteurs identificeren in hun boek drie groepen die verantwoordelijk zijn voor de verspreiding van misleidende claims over AI: bedrijven die ‘AI’ verkopen, AI-onderzoekers, en journalisten die over AI schrijven. Bedrijven die beweren de toekomst te kunnen voorspellen met algoritmen worden volgens hen als potentieel het meest frauduleus beschouwd, omdat hun systemen vaak minderheden en achtergestelde groepen benadelen. De auteurs verwijzen daarbij nota bene naar een Nederlandse casus.
Narayanan en Kapoor bekritiseren ook bedrijven die zich richten op existentiële risico’s zoals artificiële algemene intelligentie (AGI), ten koste van de huidige impact van AI-tools. Ze hebben ook kritiek op onderzoekers op dit terrein die slordig en niet-reproduceerbaar onderzoek uitvoeren. Dit leidt tot overschatting van AI-prestaties.
Journalisten worden bekritiseerd voor het herschrijven van persberichten als nieuws en het in stand houden van relaties met techreuzen ten koste van kritische berichtgeving. Sensationele verhalen over chatbots die ’tot leven’ komen dragen volgens Narayanan en Kapoor bij aan publieke verwarring over de capaciteiten van AI (en antropomorfisme). Verder worden vaak afbeeldingen bij bijdragen geplaatst die eigenlijk clichématige metaforen zijn (zoals AI al robot; ik moet bekennen dat ik dergelijke afbeeldingen ook gebruik).
Ondanks hun kritiek erkennen de auteurs het blijvende belang van AI, zoals large language models. Ze pleiten wel voor betere educatie over AI, zelfs al op jonge leeftijd. Het begrijpen van kernconcepten zoals machine learning en neurale netwerken kan mensen volgens de auteurs wapenen tegen overdreven claims. Zij benadrukken het belang van het begrijpen van de beperkingen van AI, zoals onnauwkeurige outputs en vooringenomen antwoorden. Kennis over de herkomst van trainingsdata kan het misplaatste vertrouwen in AI-software verminderen.
AI kan nuttig zijn bij het uitvoeren van diverse taken. De bijdrage sluit echter af met de opmerking dat alleen goed geïnformeerde mensen de macht hebben om onbegrip rond deze technologie te corrigeren en een nauwkeuriger verhaal te schetsen.
Mijn opmerkingen
Arvind Narayanan en Sayash Kapoor wijzen terecht op de macht van wat je zou kunnen noemen een ‘AI-Industrieel Complex’ (analoog aan het Militair-Industrieel Complex): een netwerk van belanghebbenden rond AI, zoals bedrijven, journalisten en onderzoekers, die betrokken zijn bij de ontwikkeling en verspreiding van AI. De belangen hierbij zijn groot, en de investeringen enorm. Hooggespannen verwachtingen leiden tot nog meer investeringen, en tot pleidooien om regulering vooral te zien als een belemmering voor innovatie (en het missen van kansen ten opzichte van concurrerende regio’s). Naar mijn mening draagt dit er mede toe bij dat bedrijven zoals Google en OpenAI wel investeren in de technologische kracht en mogelijkheden van AI-toepassingen, zoals het genereren van podcasts op basis van artikelen of het voeren van realistische gesprekken met een chatbot via spraak, terwijl problemen zoals het enorme energieverbruik nauwelijks of niet worden aangepakt.
Narayanan en Kapoor wijzen m.i. terecht op het belang van educatie om kernconcepten en beperkingen met betrekking tot AI te begrijpen. Je zou wat mij betreft je echter ook bewust moeten zijn van de onderliggende belangen bij deze ontwikkeling. Wie heeft er echt baat bij? Wat is hun agenda?
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.
This content is published under the Attribution 3.0 Unported license.
Geef een reactie