Hoe ver mogen we gaan met het monitoren van lerenden?

Mark Keierleber heeft voor The74million.org een uitgebreid artikel geschreven over een vergaande manier van surveilleren door onderwijsinstellingen. Daarbij is nog onduidelijk of het doel het middel rechtvaardigt.

Het betreft de firma Gaggle die de digitale bestanden van meer dan 5 miljoen lerenden in de VS monitort. Met behulp van kunstmatige intelligentie scant Gaggle e-mails, chatberichten en ander materiaal dat die lerenden met hun Google- of Microsoft-schoolaccounts produceren. De software zoekt naar trefwoorden, afbeeldingen of video’s die zouden kunnen wijzen op zelfbeschadiging, geweld of seksueel gedrag. Moderatoren beoordelen gemarkeerd materiaal en stellen schoolfunctionarissen gemiddeld binnen 17 minuten op de hoogte van inhoud die zij als ‘verontrustend’ beoordelen. De analyse van 10 miljard items leidde in een jaar tijd tot 360.000 incidentmeldingen.

Keierleber heeft van één schooldistrict 1300 incidentrapporten onderzocht. Meldingen over porno/seks komen het meest voor. Daarna volgt zelfmoord/zelfbeschadiging en geweld.
Driekwart van deze meldingen worden buiten schooltijd gedaan. Volgens de auteur illustreert dit hoe Gaggle de bevoegdheid van scholen uitbreidt om de meningsuiting en het gedrag van lerenden continu te reguleren.

Naarmate er meer wordt gedaan aan online leren, heb je andere manieren nodig om het welbevinden van lerenden te monitoren. Daarom zijn meer onderwijsinstellingen in de VS surveillancesoftware tijdens de Coronapandemie gaan gebruiken. Nu onderwijs weer veel meer face-to-face wordt verzorgd, nemen onderwijsinstellingen er echter geen afscheid van. Gaggle en ook scholen die gebruik maken van deze dienst wijzen erop dat dankzij Gaggle vele zelfmoorden onder jongeren zijn voorkomen. Volgens Keierleber is dit echter niet duidelijk omdat onafhankelijk onderzoek naar de doeltreffendheid van Gaggle en vergelijkbare diensten niet is uitgevoerd.

Critici plaatsen volgens de auteur vraagtekens bij de effectiviteit van Gaggle en vrezen dat het doorspitten van persoonlijke bestanden en gesprekken van lerenden – en in sommige gevallen het bekend maken van lerenden die tekenen van geestelijke gezondheidsproblemen zoals depressie vertonen – averechts kan werken. Een dergelijke manier van surveilleren kunnen gevoelens van stigmatisering en schaamte mogelijk verergeren en er uiteindelijk toe bijdragen dat lerenden juist minder snel om hulp vragen. Deze jongeren zouden juist ook geneigd kunnen zijn om hun problemen of gevoelens van depressie voor zich te houden.

Bovendien komen ‘valse meldingen’ vaak voor omdat de software de context van een bepaalde term niet kent. Lerenden zouden volgens critici weleens minder vertrouwen kunnen krijgen in school, docenten en begeleiders als zij het gevoel hebben voortdurend gevolgd te worden.

Volgens Gaggle willen jongeren echter graag geholpen worden. Onderzoek laat dat de meeste lerenden er geen problemen mee hebben dat zij gemonitord worden. Bijna 60% van de onderzochte lerenden geeft echter aan dat zij hierdoor wel terughoudend zijn in het delen van hun gedachten of ideeën.

This content is published under the Attribution 3.0 Unported license.