Sterke kanten en beperkingen van chatbots

Het Wereld Economisch Forum heeft een informatief en beknopt artikel geschreven over chatbots en andere virtuele assistenten. Zij beschrijven summier wat een chatbot is, en wat sterke kanten en beperkingen van deze toepassingen zijn.

Een chatbot is volgens de auteurs een toepassing van artificiële intelligentie (AI) die via een conversatie interacteert met gebruikers. Natural Language Processing (NLP) stelt de chatbot in staat boodschappen van mensen te begrijpen en vaak op de juiste manier te reageren. De chatbot leert ook van deze conversaties. Chatbots kunnen hierdoor (routinematige) vragen beantwoorden die niet meer door mensen beantwoord hoeven te worden.

Sterke kanten zijn:

• Volgens de auteurs kunnen chatbots onderwijs op basis van AI over de hele wereld verzorgen. Dit wordt echter niet uitgewerkt.
• Chatbots kunnen het maken van afspraken afhandelen.
• Geautomatiseerde sms-herinneringen aan afspraken hebben binnen de gezondheidszorg in de VS ertoe geleid dat het aantal patiënten dat niet is verschenen op afspraken, is verminderd.
• In dunbevolkte gebieden helpen chatbots om patiënten via digitale consultaties in contact te brengen met artsen. Chatbots handelen in Rwanda bijvoorbeeld eenvoudige hulpvragen af. Chatbots spelen zelfs een rol in het bepalen van welke patiënten met prioriteit door een echte arts behandeld wordt.
• Chatbots helpen schaarse bronnen meer effectief te gebruiken en bijvoorbeeld de kwaliteit van de zorg in ontwikkelingslanden te verbeteren.

Beperkingen en nadelen zijn:

• Chatbots werken met algoritmes. Deze algoritmes worden ontworpen door mensen die vooroordelen hebben (bias). Een gebrek aan diversiteit onder de ontwikkelaars kan leiden tot antwoorden die vooroordelen bevatten. Gebruikers met een sterk accent worden vaak verkeerd begrepen door chatbots. Gebruikers kunnen hierdoor niet de juiste informatie krijgen. Met name in de zorg kan dit ernstige gevolgen hebben.
• De privacy van informatie is ook een belangrijke aandachtspunt. Wat gebeurt er met de conversaties? Gebruikers moeten ook weten hoe informatie wordt gebruikt en wie verantwoordelijk is voor wat ermee gedaan wordt.
• Gebruikers moeten weten of ze met een chatbot of met een mens spreken. Dankzij NLP worden chatbots geavanceerder en klinken ze steeds “natuurlijker”.

Het Wereld Economisch Forum heeft volgens de auteurs het initiatief genomen voor de ontwikkeling van een raamwerk voor het reguleren van het verantwoord gebruik van virtuele assistenten in de gezondheidszorg. Dit kader pakt juridische, privacy- en veiligheidskwesties aan, naast de behoefte aan rechtvaardigheid en verantwoordingsplicht. Andere sectoren zouden hier ook gebruik van kunnen maken.

Chatbots zullen alleen maar krachtiger worden. Het gebruik ervan kan leiden tot kostenbesparingen omdat een deel van de routinematige werkzaamheden van werknemers geautomatiseerd kan worden. Werknemers zouden zich dan kunnen richten op meer zinvol, hoger gekwalificeerd en beter betaald werk, zo menen de samenstellers van deze bijdrage.

Mijn opmerking

Diverse sectoren hebben te maken met ernstige personeelstekorten. Dit leidt ertoe dat de werkdruk van zittende werknemers erg hoog is. Op dit moment strijden verschillende sectoren, en arbeidsorganisaties binnen die sectoren, om schaars talent.

Chatbots en ook andere AI-toepassingen kunnen werk uit handen nemen. Verwacht niet dat chatbots complete functies gaan vervangen. Maar als het gebruik van chatbots kan bijdragen aan een lagere werkdruk dan is dat mooi meegenomen. Daar komt bij dat chatbots 24 uur per dag, 7 dagen per week, kunnen worden geraadpleegd. Als organisatie kun je daarmee services aanbieden, die zonder deze technologie niet op een betaalbare en organiseerbare manier aangeboden kunnen worden.

We moeten daarbij ook waken voor overspannen verwachtingen. Het is m.i. een illusie te denken dat chatbots onderwijs over de hele wereld verzorgen, zoals in het begin van dit artikel wordt gesuggereerd.

This content is published under the Attribution 3.0 Unported license.