De risico’s van monopolievorming en adaptieve technologie

Mathew Ingram illustreert aan de hand van drie voorbeelden hoe adaptieve technologie misbruikt kan worden door bedrijven die nagenoeg een monopoliepositie hebben binnen hun branche. Wat is de relevantie hiervan voor het onderwijs?

Via een tweet van Eric Prenen (@eprenen) ben ik vanochtend terecht gekomen bij de bijdrage Giants behaving badly: Google, Facebook and Amazon show us the downside of monopolies and black-box algorithms. Mathew Ingram geeft hierin drie voorbeelden van het risico van bedrijven die binnen hun branche praktisch een monopoliepositie hebben, en ‘black-box algoritmes’ misbruiken om te bepalen wat we te zien krijgen, wat we kunnen zoeken en wat we kunnen kopen.

1. Amazon is in een strijd verwikkeld met één van zijn leveranciers (Hachette) over verkoopvoorwaarden. Via aanpassing van het algoritme dat zorgt voor de aanbevelingen bij Amazon, heeft men er voor gezorgd dat de boeken van Hachette voor eindgebruikers lastiger te vinden zijn. Aangezien Amazon in de VS nagenoeg geen concurrentie heeft als het gaat om de verkoop van boeken online, is dat een onwenselijke situatie.
2. Google heeft zijn algoritme aangepast. Hoe is niet duidelijk. Met als gevolg dat een 15 jaar oude community, die bekend staat om de goede content, veel minder bezocht werd en een drastische terugloop aan advertentieinkomsten kende. Daardoor heeft men de helft van het personeel moeten ontslaan. Google beïnvloedt dus in hoge mate wat je te zien krijgt, maar het is niet duidelijk hoe men dat doet.
3. Facebook’s algoritme beïnvloedt ook in sterke mate wat je te zien krijgt, en wat gedeeld wordt. Bovendien lijkt men er voor te zorgen dat bepaalde nieuwsberichten verdwijnen (zonder dat duidelijk is waarom).

Ingram geeft aan dat onze invloed hierop relatief klein is, maar dat we wel meer gebruik zouden moeten maken van alternatieven om monopolies en oligopolies te doorbreken.

Ik zie daarnaast een rol weg gelegd op onafhankelijke toezichthouders die monitoren hoe dergelijke bedrijven omgaan met hun algoritmes en met andere adaptieve technologieën. Ik denk daarbij niet aan de overheid (die is vaak ook niet te vertrouwen), maar aan organisaties a la Bits of Freedom.

Ik zie ook een relatie met het onderwijs. In de eerste plaats zouden we lerenden bewust moeten maken van de wijze waarop deze monopolisten omgaan met adaptieve technologie. Een dergelijke bewustwording is m.i. onderdeel van digitale geletterdheid. Op de tweede plaats moeten we in het onderwijs ook waakzaam zijn op het misbruik van adaptieve technologie. Onderwijsdata komt meer en meer in handen van commerciële bedrijven, zoals Pearson. Zij kunnen ook via algoritmes deze data manipuleren ten faveure van henzelf. Je krijgt als lerende dan een aanbeveling om een module van Pearson aan te schaffen, terwijl wellicht een betere open educational resource beschikbaar is (maar niet zichtbaar).

Ik vind dat algoritmes die binnen de publieke sector worden gebruikt, openbaar zouden moeten zijn en in ieder geval onderwerp van onafhankelijk toezicht.