Over het belang van (een raamwerk voor) AI-ethiek

Artificiële intelligentie wordt krachtiger, meer toegankelijk en alomtegenwoordig. AI is in staat om menselijke inbreng en vermogens te gebruiken om acties uit te voeren zoals het nemen van beslissingen. Daar komt ethiek bij kijken. Mark van Rijmenam pleit daarom voor AI-ethiek en werkt dit in een uitgebreide bijdrage uit. In deze blogpost vat ik zijn artikel samen en verbind ik dit pleidooi met een concreet instrument. Deze bijdrage is immers ook van belang voor leren, opleiden en onderwijs omdat AI ook binnen deze sectoren een steeds grotere invloed zal krijgen, met mogelijk verstrekkende gevolgen.

Bij AI-ethiek kijk je naar de ethische, morele en sociale implicaties van kunstmatige intelligentie, inclusief de gevolgen van de implementatie van een algoritme. AI-ethiek verwijst naar de vraag hoe een intelligent systeem zich zou moeten gedragen en welke rechten het zou moeten hebben.

Een van de grootste uitdagingen van vandaag is volgens Van Rijmenam het opbouwen van vertrouwen in AI en ervoor zorgen dat we AI ethisch en verantwoord kunnen gebruiken. Vertrouwen is van invloed op hoe mensen zich tegenover elkaar en tegenover technologie gedragen. Als je een AI-systeem niet vertrouwt, zul je het volgens de auteur niet effectief gebruiken of op de beslissingen vertrouwen.

Hoe kunnen we vertrouwen opbouwen in AI-systemen zodat mensen zich veilig voelen bij het gebruik ervan. Mark van Rijmenam onderscheidt daarbij een aantal strategieën:

1. Wees transparant over wat je met gegevens doet en waarom.
2. Geef duidelijke uitleg over beslissingen van AI-systemen. Mensen moeten deze beslissingen kunnen evalueren en corrigeren.
3. Maak het gemakkelijk voor mensen om af te zien van het verzamelen en gebruiken van gegevens. Geef mensen controle over hun gegevens.
4. Bevorder betrokkenheid van mensen bij jouw organisatie. Mensen die een AI-oplossing kunnen zien en ermee kunnen interacteren, zullen deze eerder vertrouwen. En hoe meer mensen de AI gebruiken, hoe beter deze wordt omdat deze leert van echte situaties.

Vervolgens staat de auteur stil bij de vraag: waarom heeft de samenleving een kader voor ethische AI nodig? Naarmate we afhankelijker worden van technologie, worden we ook kwetsbaarder voor de risico’s en neveneffecten ervan. Als we geen manieren vinden om deze risico’s te beperken, kunnen we geconfronteerd worden met een crisis waarin machines als de dominante soort op deze planeet de mens vervangen, stelt Van Rijneman met enig gevoel voor drama.

Een gemeenschappelijk ethisch kader voor AI zal ons helpen betere technologie te ontwerpen die mensen ten goede komt en niet schaadt. Een dergelijk kader kan volgens de auteur helpen vooroordelen te identificeren en ervoor te zorgen dat AI-programma’s bepaalde groepen niet discrimineren of op andere manieren schade berokkenen. Een aantal universiteiten is al actief op dit terrein.

Explainable AI (XAI) kan hierbij volgens hem een rol spelen. Dit begrip verwijst naar het vermogen van machines om te verklaren hoe ze beslissingen nemen. XAI maakt AI-systemen transparanter, zodat gebruikers kunnen begrijpen hoe ze werken en wat hun denkproces beïnvloedt. We maken machines die zelfstandig leren, maar we weten niet waarom ze bepaalde beslissingen nemen of waar ze aan denken.

AI-systemen kunnen niet worden vertrouwd tenzij ze kunnen worden uitgelegd. Als een AI bijvoorbeeld huidkanker kan opsporen voor medische doeleinden, is het belangrijk dat de patiënt weet hoe het systeem tot de conclusie is gekomen.

XAI is meer dan alleen transparantie: het gaat ook om verantwoording en verantwoordelijkheid. Als er fouten zitten in het besluitvormingsproces van een AI, moet je weten wat er fout is gegaan zodat je het kunt herstellen.

Mark van Rijmenam gaat in zijn bijdrage kort in op andere ethische uitdagingen, bijvoorbeeld rond privacy en mensenrechten, en beschrijft vervolgens wat je kunt doen om een raamwerk voor AI-ethiek voor organisaties te ontwikkelen:

• Definieer wat je bedoelt met “AI-ethiek”. Het is belangrijk dat de leiding van een organisatie duidelijk definieert wat ze bedoelen met “AI-ethiek” voordat ze hun ethisch kader beginnen te ontwikkelen.
• Verduidelijk waarden en principes. Waarden sturen ethische besluitvorming omdat ze richting geven aan wat het belangrijkst is in een situatie. Principes helpen ethische beslissingen te sturen omdat ze aangeven hoe waarden in daden moeten worden omgezet.
• Begrijp hoe mensen tegenwoordig AI-technologie gebruiken.
• Weet wat mensen willen van AI-technologie.
• Stel duidelijke regels op voor de organisatie over hoe je wilt dat mensen AI-technologie gebruiken. Maak een lijst met vragen waarmee je kunt beoordelen of het gebruik van bepaalde toepassingen ethisch verantwoord is of niet. Als iemand bijvoorbeeld gezichtsherkenningssoftware wil gebruiken om de aanwezigheid bij vergaderingen bij te houden, kun je je zich afvragen of dit iemands privacyrechten zou schenden en of dat het schade zou veroorzaken.
• Werk samen met werknemers en belanghebbenden om het kader te verbeteren.
• Maak een duidelijk beleid rond het gebruik van AI.

Mark van Rijmenam sluit zijn bijdrage af moet een overzicht van recente ontwikkelingen op dit terrein zoals de AI Act van de EU, en met afsluitende gedachten.

AI-ethiek is inderdaad van groot belang naarmate de potentiële impact van AI toeneemt. Je zult ook altijd in staat moeten zijn om AI-systemen te corrigeren, of AI-systemen vooral te gebruiken als ‘adviseur’ bij het nemen van beslissingen.
Een relevant instrument bij het ontwikkelen en toepassen van AI is m.i. de DELICATE-checkllist die Hendrik Drachsler en Wolfgang Greller hebben ontwikkeld voor learning analytics.

• Determination (beschrijf waartoe wil je AI toepassen).
• Explain (leg uit welke doelen je met AI nastreeft en wat de kaders zijn waarbinnen je AI gebruikt).
• Legitimate (leg uit waarom je AI toepast).
• Involve (betrek alle belanghebbenden bij het gebruik en vraag om feedback).
• Consent (laat gebruikers instemmen met het gebruik van AI, bijvoorbeeld via een overeenkomst).
• Anonymise (zorg ervoor dat het gebruik niet herleidbaar is naar individuen).
• Technical (maak gebruik van procedures om privacy te garanderen).
• External (sluit, indien relevant, overeenkomsten met derden bij het gebruik).

Drachsler en Greller wijzen ook op het belang van transparantie, vertrouwen, eigenaarschap en privacy.

This content is published under the Attribution 3.0 Unported license.