Zijn er grenzen aan de mate waarin mensen geholpen willen door of willen interacteren met computers?

Er zijn hooggespannen verwachtingen van AI, vooral sinds de lancering van ChatGPT. De impact van AI op de arbeidsmarkt zal groot zijn: sommige banen zullen verdwijnen, andere zullen ontstaan, maar het zijn waarschijnlijk vooral bestaande banen die zullen veranderen. Traditioneel wordt gedacht dat beroepen met een sterke ‘human touch‘ minder vatbaar zijn voor automatisering, maar met de opkomst van generatieve AI -zoals ChatGPT-, zou dit wel eens kunnen veranderen. Is AI in staat om menselijke connectie na te bootsen, of is er een limiet aan wat we bereid zijn te accepteren op dit vlak?

De mate waarin AI wordt toegepast, kan namelijk worden beperkt door de mate waarin wij mensen accepteren dat wij geholpen worden door, ondersteund willen worden door en zelfs samen willen werken met computers.

Door de eeuwen heen zijn er verschillende bewegingen geweest die zich hebben verzet tegen technologische innovaties. Drie voorbeelden zijn:

Luddites. Deze beweging ontstond in Engeland tijdens de Industriële Revolutie. De luddites, voornamelijk ambachtslieden en wevers, verzetten zich tegen de automatisering van de textielindustrie omdat ze bang waren dat machines hun banen zouden overnemen.
Romantici. Tijdens de Romantische periode reageerden veel kunstenaars, schrijvers en filosofen negatief op de toenemende industrialisatie en de gevolgen daarvan voor de menselijke geest en natuur. Ze hechtten veel waarde aan emotie, individualiteit en natuurlijke schoonheid, en waren vaak kritisch over de gevolgen van technologische vooruitgang. Voorbeelden zijn William Wordsworth met zijn gedicht The World is too Much with Us of Mary Shelley met de novelle The Last Man.
Hedendaagse technologie-kritische bewegingen. Dit zijn uiteenlopende groepen die zich zorgen maken over specifieke technologieën, zoals die zich verzetten tegen genetisch gemodificeerde organismen, of privacyvoorvechters die bezorgd zijn over grootschalige dataverzameling en -analyse.

Laten we wel wezen: in veel gevallen hadden en hebben deze bewegingen en hun vertegenwoordigers een punt. Naarmate dit type bewegingen meer voet aan de grond krijgt zal AI minder of minder vergaand doorgevoerd worden, bijvoorbeeld op het gebied van leren, opleiden en onderwijs.

Daarnaast heeft de Japanse robot-wetenschapper Masahiro Mori in 1970 zijn “Uncanny Valley” theorie geponeerd. Deze theorie stelt dat er een punt is waarop iets (zoals een robot of een computerinterface) te menselijk begint te lijken en daardoor afstotend kan werken of onbehagen veroorzaakt bij mensen. Deze theorie is ook toegepast op verschillende vormen van mens-machine interactie. Bijvoorbeeld: als een computerinterface of AI te menselijk wordt, kan dit leiden tot ongemak en weerstand bij gebruikers. Masahiro Mori stelde ook dat naarmate het uiterlijk van een robot echter steeds minder van een mens te onderscheiden is, de emotionele respons van mensen weer positief wordt en zelfs het niveau van de menselijke empathie benadert.

Het is de vraag of we met generatieve AI-toepassingen zoals ChatGPT dit punt bereiken. Je kunt immers al redelijke dialogen met ChatGPT voeren. Kijk bijvoorbeeld maar eens naar de interacties die de op GPT-4 gebaseerde chatbot van de Khan Academy voert met lerenden.

Tegelijkertijd is er in het geval van AI-toepassingen zoals ChatGPT, een duidelijk verschil tussen de interactie met deze systemen en de interactie met een mens. Hoewel generatieve AI-toepassingen menselijke interacties kunnen simuleren en soms zelf overtuigend kunnen zijn, zijn er duidelijke grenzen aan hun vermogens. Ze begrijpen de wereld niet op dezelfde manier als een mens dat doet, en er zijn vaak subtiele signalen in de bijdragen die laten zien dat ze niet echt ‘begrijpen’.

De vraag hierbij is wel: wat brengt de toekomst ons? Hoe ontwikkelen deze toepassingen zich verder?

Een andere theorie die in dit kader relevant is, is de Media Richness Theory: complexe taken vereisen meer ‘rijke’ media – media die feedback, meerdere signalen, taalvariëteit en personalisatie mogelijk maken- dan ‘arme’ media. Computers en andere technologische hulpmiddelen worden vaak als ‘arme’ media gezien omdat ze niet alle nuances van menselijke communicatie kunnen overbrengen. Het is echter de vraag of gebruikers applicaties als ChatGPT niet als ‘rijker’ beschouwen, dan de IT-toepassingen waar we tot nu toe mee gewerkt hebben.
Verder scoren toepassingen als ChatGPT hoog op gebruikersgemak en nut (al zijn de meningen over het ‘nut’ van dit type toepassingen nog verdeeld). Redenerend vanuit het Technology Acceptance Model (TAM) betekent dit een hoge mate van acceptatie.

Andere interessante feiten die in dit kader relevant zijn, zijn:

Uit onderzoek is gebleken dat mensen zich meer op hun gemak voelen bij het delen van informatie en het stellen van vragen aan een ‘agent’ die zij als niet-menselijk beschouwen (Hsing-Chi Hwang & Stevenson Won, 2021). Deze bevinding ondersteunt de acceptatie van generatieve AI-toepassingen in hun huidige vorm.
De bijdrage Four Awesome Applications Of Natural Language Processing (NLP) voorziet de volgende trend op dit terrein: van Natural Language Processing (NLP) naar Natural Language Understanding (NLU): gebruikers zien en voelen een menselijk emotionele connectie met de apparaten die zij gebruiken. NLU bevordert ook acceptatie van technologie.
Nietzel (2020) laat zien dat lerenden bereid ook zijn met een chatbot te converseren over persoonlijke issues die van invloed kunnen zijn op uitval. Dit wijst ook op bredere acceptatie van AI door gebruikers.

Het is wat mij betreft nog onduidelijk of AI-systemen zoals ChatGPT ooit echt het punt zullen bereiken waarop ze niet te onderscheiden zijn van menselijke interacties en dus het punt van menselijke empathie zullen bereiken zoals beschreven door Masahiro Mori. Wellicht wel, als je kijkt naar het tempo en de richting waarin deze technologieën zich zullen ontwikkelen. Deze toepassingen zijn dan ‘rijk’, ‘nuttig’ en hebben een groot gebruikersgemak. Dit alles is bevorderlijk voor een brede acceptatie. Bovendien zouden jongeren dergelijke toepassingen weleens gemakkelijker adopteren dan ouderen. Bij sociale media is dat immers ook het geval, ook al zijn de verschillen binnen generaties ten aanzien van technologiegebruik groot.

Als mensen steeds gemakkelijker en vaker geholpen willen worden door, ondersteund willen worden door en zelfs samen willen werken met computers, dan vergroot dit m.i. de urgentie om na te denken over ethische en sociale kwesties die een rol (gaan) spelen in dit proces. Hoe kunnen de terechte bezwaren van en gesignaleerde knelpunten door hedendaagse technologie-kritische bewegingen uit de weg geruimd worden?

Ps: Deze blogpost is door mij geschreven, maar wel in dialoog met ChatGPT (GPT-4). Ik heb elke bewering van ChatGPT gecheckt. Daarnaast heb ik aanvullende bronnen gebruikt. Bovendien vraag ik ChatGPT soms om teksten te herschrijven. De nieuwe tekst neem ik meestal gedeeltelijk over.

Mijn eerdere bijdragen over ChatGPT en aanverwante technologieën

This content is published under the Attribution 3.0 Unported license.

Geef een reactie