Het valt vooralsnog mee met de AI-misinformatie | WilfredRubens.com over leren en ICT

Menno van den Bos gaat in de NRC in op de huidige stand van zaken rondom misinformatie die door AI wordt gegenereerd. Hij stelt dat volgens misinformatie-experts van een ‘infocalyps’ nog geen sprake is.

DALL-E: A photo of a computer monitor displaying an article with a false headline and misleading information in the text, accompanied by an image supporting the false information.

Menigeen -onder meer de Nederlandse overheid- maakt zich volgens Van den Bos zorgen over de invloed van AI op de verspreiding van nepnieuws en desinformatie, vooral tijden van verkiezingen. Met behulp van generatieve AI-applicaties kun je namelijk heel makkelijk nep nieuws, nep foto’s en nep video’s produceren, om deze daarna via sociale media te delen. De aankondiging van OpenAI’s Sora leidde onlangs weer tot een nieuwe golf van onrust op dit gebied.

Thomas Mulder, onderzoeksjournalist bij Pointer, merkt in het NRC-artikel echter op dat de meeste online misinformatie nog steeds voornamelijk bestaat uit zogenaamde ‘cheapfakes’, eenvoudige manipulaties of uit de context getrokken materiaal. De rol van AI in de verspreiding van misinformatie blijft volgens beperkt, hoewel AI gegenereerd beeldmateriaal, zoals een bewerkte foto van Frans Timmermans, moeilijker te factchecken is. De foto van Timmermans was overigens overduidelijk nep. Hij had bijvoorbeeld zes vingers aan een hand.

Misinformatie-onderzoekers Felix Simon en Sacha Altay concluderen op basis van een eigen analyse dat de angst voor AI-gestuurde misinformatie overdreven is. Hun onderzoek laat zien dat de vraag naar en het aanbod van misinformatie niet significant beïnvloed wordt door AI. Ze benadrukken dat misinformatie voornamelijk consumenten treft met specifieke psychologische kenmerken, zoals sterke politieke overtuigingen en wantrouwen in instituties. Deze kenmerken worden door generatieve AI niet veranderd. Het aanbod van misinformatie is zonder AI groot. Daarbij gaat het bijvoorbeeld om keiharde leugens die door een bepaalde groep worden geloofd, omdat zij vertrouwen hebben in de zender (zoals Donald Trump).

Onderzoeker Hannes Cools voegt in het NRC-artikel toe dat de neiging om valse informatie te geloven meer te maken heeft met de bron en verspreidingscontext dan met de kwaliteit van de technologie. Dit suggereert dat de technologie op zich niet het grootste risico vormt, maar eerder de vooringenomenheid van de gebruikers en de context waarin de informatie wordt verspreid.

Toch schrijft Bos dat het steeds moeilijker wordt om bijvoorbeeld deepfake-audio te onderscheiden van echte opnames. En als het veel makkelijker om dergelijke ‘deepfake’ te maken met behulp van generatieve AI, dan moet je daar wel extra alert op zijn. Vooral journalisten moeten daar kritisch op zijn. De meeste mensen volgen immers nog steeds traditionele media. Daarnaast heb je onafhankelijke factcheckers nodig. Die heb je helaas niet in elk land.

Cools wijst er ook op dat mensen geneigd zijn om heel positief of juist heel negatief over nieuwe technologie te denken. De verhalen over misinformatie als gevolg van AI is een voorbeeld van het laatste. Altay stelt dat we niet alleen naar de werking van de technologie moeten kijken, maar ook naar hoe mensen die technologie gebruiken. Overdreven verhalen kunnen er ook toe leiden dan mensen niets meer geloven van wat zij waarnemen. Ook kunnen andere AI-problemen erdoor worden ondergesneeuwd.

Van den Bos wijst er ook op dat er misinformatie over AI zelf bestaat, met voorbeelden zoals ongegronde claims over ChatGPT en Google’s chatbot Bard. Deze incidenten illustreren hoe misleiding ook kan voorkomen in de berichtgeving over AI.

Mijn opmerkingen

Op dit moment valt het dus nog mee met misinformatie als gevolg van generatieve AI. Het kan best zo zijn dat het makkelijker wordt om misinformatie te maken en te verspreiden, en dat het lastiger wordt om te achterhalen of iets misinformatie is. Het is echter goed om je te realiseren dat misinformatie ook zonder AI op grote schaal wordt gebruikt, en dat bepaalde mensen gevoeliger zijn voor misinformatie dan anderen. Ook blijft factchecken essentieel, met name ook door vertegenwoordigers van traditionele media. Wat mij betreft is deze bijdrage ook een onderbouwing van de noodzaak om te investeren in digitale geletterdheid. Digitale geletterdheid is voorwaardelijk om kritisch om te gaan met (mis)informatie. Of deze nu gegenereerd is door generatieve AI of niet.

Andere bronnen over generatieve AI

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

This content is published under the Attribution 3.0 Unported license.

Geef een reactie