De opkomst van de generatieve AI toepassing DeepSeek leidde onder meer tot veel ophef vanwege het feit dat het Chinese DeepSeek censuur pleegt (in lijn met het beleid van de Chinese overheid). In ChatGPT: The Illusion of Neutrality and the Depth of AI Censorship onderbouwt Mike Roozenburg dat AI-toepassingen, die door Westerse bedrijven ontwikkeld worden, ook allesbehalve neutraal zijn maar ook actief een specifieke wereldvisie bevorderen.
Een tijd geleden ben ik ingegaan op het censureren door DeepSeek. Ik heb toen betoogd dat ‘censuur’ kwalijker is dan de ‘bias’ zoals we die kennen van toepassingen als ChatGPT. Roozenburg schrijft dat traditionele media vaak meerdere perspectieven bieden, terwijl AI-toepassingen kennis in één ogenschijnlijk neutrale respons centraliseren. Deze antwoorden lijken objectief, maar zijn in werkelijkheid zorgvuldig gecureerd en gestructureerd. Dit gebeurt volgens Roozenburg via drie mechanismen:
- Selectieve vooringenomenheid: ChatGPT put bijvoorbeeld voornamelijk uit westerse bronnen als The New York Times en BBC, terwijl alternatieve en niet-westerse stemmen zoals The Grayzone of Al Jazeera worden gemarginaliseerd. Dit creëert een westerse consensus die als objectieve waarheid wordt gepresenteerd. Dit is de bias waarop ik eerder doelde.
- Structurele censuur: ChatGPT vermijdt of verzacht volgens Roozenburg kritische perspectieven op drie belangrijke terreinen:
- Geopolitieke verhalen, vooral kritiek op westers buitenlandbeleid.
- Economische systemen, machtsstructuren van bedrijven en milieuproblemen.
- Systemische ongelijkheid en klassenstrijd.
- Gecontroleerde framing: Zelfs wanneer ChatGPT kritische perspectieven deelt, gebeurt dit op een manier die radicale conclusies voorkomt en het status quo als rationeel en onvermijdelijk presenteert.
De auteur illustreert dit met een voorbeeld over de oorlog in Congo. ChatGPT’s standaardantwoord noemt “rebellengroepen”, “zwak bestuur” en “corruptie” als oorzaken, zonder de rol van westerse bedrijven in grondstoffenextractie of de door buitenlandse mogendheden gesteunde milities te vermelden. Dit is echter belangrijke context die het verhaal fundamenteel verandert.
Roozenburg vergelijkt deze dynamiek met wat Jacques Ellul en Noam Chomsky eerder beschreven: effectieve propaganda vereist dat elk kanaal dezelfde wereldvisie versterkt. De large language modellen vormen daarbij een nieuw, efficiënter filter dat in realtime en op grote schaal werkt. Anders dan traditionele media, die tenminste ruimte laten voor alternatieve standpunten, elimineert AI-gegenereerde inhoud tegenstellingen volgens hem volledig.
De opkomst van niet-westerse AI-modellen zoals het Chinese Deepseek vormt volgens de auteur dan een uitdaging voor de westerse ‘informatiedominantie’. Deze modellen bieden afwijkende perspectieven op geopolitieke conflicten, Amerikaans buitenlandbeleid en kapitalisme. Dit ondermijnt dan de bestaande westerse informatiemonopolie. Tegelijkertijd heb je dan dus te maken met censuur van een dictatoriale overheid.
Roozenburg waarschuwt dat de betreffende AI-toepassingen, zonder gecorrigeerd te worden, kunnen uitgroeien tot het meest geavanceerde propagandamiddel in de geschiedenis. Deze systemen definiëren wat “waar” en “neutraal” is, potentieel met een verstikkend effect op afwijkende meningen. Dit roept fundamentele vragen op over wie het narratief controleert en hoe democratie kan overleven tegenover deze nieuwe bedreiging.
Mijn opmerkingen
Mike Roozenburg maakt duidelijk dat modellen als ChatGPT niet alleen vooroordelen bevatten, maar ook te maken hebben met censuur. Ik heb weinig vertrouwen dat dit door de ontwikkelaars gecorrigeerd gaat worden. Je kunt dit deels ondervangen door het type opdrachten dat je invoert. Ook krijg je andere antwoorden als je ChatGPT bijvoorbeeld ‘diepgaand’ laat onderzoeken. Het is in elk geval belangrijk om deze mechanismen te begrijpen en te integreren binnen digitale geletterdheid.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.
This content is published under the Attribution 3.0 Unported license.
Geef een reactie