Steeds meer organisaties zetten ‘AI’ in om trainingen snel en betaalbaar te ontwikkelen. Ze verliezen daarbij echter uit het oog wat er met hun geüploade data gebeurt. The Risks of AI in Corporate Learning verkent de minder zichtbare risico’s van AI-tools en laat zien waarom zorgvuldig datagebruik onmisbaar is.
Onlangs heb ik een aantal medewerkers van een grote fysiotherapie-praktijk wegwijs gemaakt in het gebruik van ChatGPT. De medewerkers hebben de beschikking over een zakelijk account waardoor zij ook met elkaar konden samenwerken. Bij het eerste gebruik vroeg ChatGPT of zij ook eigen bronnen wilden gebruiken, bijvoorbeeld door ChatGPT toegang te geven tot de mailbox. Zo’n mailbox bevat onder meer gevoelige data over patiënten. We hebben die keuze dus niet gemaakt. Deze mogelijkheid illustreert echter wel het risico dat AI-toepassingen gemakkelijk de beschikking kunnen krijgen over privacygevoelige gegevens, zelfs al gebruiken de applicaties deze data niet om de modellen te trainen.
AI-toepassingen worden volgens The Risks of AI in Corporate Learning in steeds meer arbeidsorganisaties ingezet om opleidingen en werkplek leren sneller te ontwikkelen en te verspreiden. Het artikel beschrijft hoe AI binnen corporate learning vooral wordt gebruikt om interne documenten, handleidingen en onboardingmaterialen efficiënt om te zetten in interactieve leermodules. Deze vorm van automatisering verkort ontwikkeltijden aanzienlijk en verlaagt de kosten. Ook maakt AI het eenvoudiger om trainingen te vertalen, opdrachten te genereren en feedbackprocessen te organiseren. Voor veel arbeidsorganisaties biedt dit een aantrekkelijke manier om bijvoorbeeld trainingen op te schalen en toegankelijker te maken. Toch wijst het artikel op een minder zichtbare keerzijde: de risico’s voor dataveiligheid wanneer arbeidsorganisaties interne informatie uploaden naar AI-platforms.
Een centraal punt in deze bijdrage is dat veel arbeidsorganisaties onvoldoende zicht hebben op wat er met hun data gebeurt zodra deze binnen een AI-systeem terechtkomt. De verwerking van gegevens vindt plaats in een zogenoemde ‘black box’, waarbij het voor gebruikers vaak onduidelijk is of gegevens worden opgeslagen, gedeeld of gebruikt voor verdere modeltraining. De variatie in databeleid tussen verschillende AI-aanbieders is groot. Sommige tools behouden de ingevoerde gegevens voor eigen doeleinden, terwijl andere systemen gegevens analyseren om hun modellen te verbeteren. Gebruikers realiseren zich vaak niet dat dit kan betekenen dat interne documenten permanent op externe servers blijven bestaan.
Het artikel benadrukt dat deze onduidelijkheid grote gevolgen kan hebben wanneer arbeidsorganisaties werken met gevoelige, vertrouwelijke of gereguleerde informatie. Organisaties die binnen of met de Europese Unie werken, moeten voldoen aan de strikte eisen van de AVG. Die regelgeving vereist dat arbeidsorganisaties precies weten hoe data wordt verwerkt, of deze wordt gedeeld, en waar deze wordt opgeslagen. Wanneer een AI-tool data verwerkt buiten de EU of deze gebruikt voor modeltraining zonder expliciete toestemming, kan dit volgens de auteurs leiden tot juridische risico’s en reputatieschade. Deze risico’s zijn nog groter voor sectoren met zware compliance-eisen, zoals zorg, financiën en juridische dienstverlening.
Daarnaast waarschuwt het artikel voor het gebruik van ‘gratis’ of consumentgerichte AI-tools binnen professionele contexten. De gebruiksvoorwaarden van deze platforms bevatten geregeld bepalingen die het de aanbieder toestaan om geüploade inhoud te bewaren, analyseren of hergebruiken. Vaak zijn deze bepalingen moeilijk te vinden of juridisch geformuleerd, waardoor gebruikers ze gemakkelijk over het hoofd zien. Dit kan ertoe leiden dat intellectueel eigendom – bijvoorbeeld bedrijfsstrategieën, klantgegevens of interne processen – zonder duidelijke controle bij derden terechtkomt. Encryptie helpt in dit verband slechts beperkt: het beschermt data tijdens opslag en verzending, maar zegt niets over de rechten die een aanbieder heeft om de gegevens te gebruiken.
Het artikel stelt drie kernvragen die organisaties zouden moeten beantwoorden voordat zij een AI-tool inzetten voor training: bewaart het platform data en zo ja, hoe lang en met welk doel? Wordt de data gebruikt voor modeltraining, al dan niet geanonimiseerd? En waar worden de gegevens opgeslagen, in lijn met AVG-eisen? Wanneer een aanbieder geen heldere antwoorden kan geven, is dit volgens het artikel op zichzelf al een teken van verhoogd risico.
Verder leggen de auteurs uit dat dataveiligheid een essentieel onderdeel van bedrijfsvoering. Professionaliseringsactiviteiten bevatten vaak meer gevoelige informatie dan gedacht, zoals organisatorische structuren, klantprotocollen of interne beleidsstandpunten. Als dergelijke informatie zonder duidelijke afspraken wordt geüpload naar een AI-platform, is het mogelijk dat deze nooit volledig kan worden verwijderd. Daarom omvat dataveiligheid meer dan alleen technische beveiliging; het gaat ook om inzicht in datagebruik en het behouden van eigendomsrechten.
Tot slot beschrijft het artikel dat arbeidsorganisaties een balans moeten vinden tussen innovatie en zorgvuldigheid. ‘AI’ biedt waardevolle mogelijkheden om leerprocessen te verbeteren en te versnellen, maar vraagt ook om bewust gebruik. Dat betekent het controleren van gebruikersvoorwaarden, het beoordelen van leveranciers op datacompliance en het professionaliseren van medewerkers in verantwoord datagebruik. De kernvraag is of arbeidsorganisaties klaar zijn om AI op een verantwoorde manier in te zetten.
Mijn opmerkingen
Deze bijdrage benadrukt m.i. terecht dat we AI-technologie niet te lichtvaardig moeten invoeren binnen arbeidsorganisaties als het gaat om leren en ontwikkelen. De toepassingen bieden steeds meer mogelijkheden om eigen informatie te gebruiken voor het genereren van, bijvoorbeeld, werkplek instructies. Deze eigen informatie kan echter bedrijfsgevoelige data bevatten of persoonsgegevens en mogen daarom niet zonder meer geüpload worden. Grote ondernemingen hebben mogelijk eigen AI-toepassingen. Voor het midden- en kleinbedrijf geldt dat waarschijnlijk niet.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.
Geef een reactie