Tweeëndertigste bloemlezing over ChatGPT (en aanverwante technologieën)

Deze tweeëndertigste bloemlezing over generatieve AI-toepassingen, zoals ChatGPT, bevat zes uitgebreide samenvattingen van artikelen. Twee bijdragen zijn bijzonder kritisch op het gebruik van ChatGPT en aanverwante technologieën. De vraag is echter of deze kritiek terecht is. Bijdrage één is wel zorgwekkend, een andere bijdrage positief, terwijl de andere twee samenvattingen ingaan op het beperken van risico’s. Daarnaast telt deze bloemlezing ook drieënzeventig links naar artikelen.

3D render of a policeman who uses facial recognition technology to arrest a white male frauder

Clearview AI: het bedrijf dat met gezichtsherkenning verder gaat waar zelfs Google en Facebook stoppen

Stijn Bronzwaer recenseert in de NRC het boek “Your Face Belongs to Us” van Kashmir Hill waarin de opkomst van Clearview AI wordt beschreven. Dit Amerikaanse technologiebedrijf heeft gezichtsherkenningssoftware ontwikkeld waarmee bijna elke westerse burger geïdentificeerd kan worden. Stijn Bronzwaer legt uit dat het bedrijf, opgericht door Hoan Ton-That en Richard Schwartz in 2017, in staat is geweest om miljarden gezichtsfoto’s te verzamelen door verschillende websites af te struinen, inclusief platforms als Facebook en Tinder, zonder toestemming.

Clearview AI gaat verder dan grote techgiganten als Google en Facebook omdat zij AI toepassen op hun enorme fotocollectie. Interessant is dat Clearview AI hun technologische kennis voornamelijk heeft verkregen uit open-source modellen en academische papers. Dit roept volgens Brozwaer vragen op over de roep vanuit de AI-gemeenschap om technologie breed beschikbaar te stellen.

Hoewel het boek niet diep ingaat op hoe Clearview’s technologie werkt, worden de mogelijke gevolgen ervan benadrukt. Foutieve identificaties, vooral bij mensen met een donkere huidskleur, hebben geleid tot onrechtvaardige gevangenneming, zoals in het geval van Randal Quran Reid. Ondanks enkele tekortkomingen, hebben politiediensten, vooral in de VS maar ook in Nederland, baat gehad bij de technologie: de technologie heeft geleid tot de identificatie van diverse criminelen.

Bronzwaer staat stil bij het ethische dilemma van gezichtsherkenningstechnologie. Clearview AI is schijnbaar een belangrijk instrument geworden voor overheidsinstellingen. Toch heeft het bedrijf de app nog niet vrijgegeven voor het grote publiek. Ton-That ontwikkelde zelfs een VR-bril, gekoppeld aan Clearview, maar aarzelt deze breed uit te rollen. Dit is illustratief voor het steeds intensiever wordende debat over privacy en surveillance.

ChatGPT: A Case Study on Copyright Challenges for Generative Artificial Intelligence Systems

Dit artikel gaat in op auteursrechtelijke kwesties met betrekking tot generatieve AI. De auteurs doen dit aan de hand van de casestudie van ChatGPT. Zij presenteren methoden voor het aanpakken van juridische uitdagingen bij de ontwikkeling van AI-systemen, met als doel zowel auteursrechthouders als concurrenten te beschermen.

Het eerste deel van de paper gaat in op de theoretische en praktische toepassingen van complexe taalmodellen zoals ChatGPT. Deel twee kijkt naar de output van het ChatGPT-model en bespreekt auteursrechtelijke vraagstukken. In het derde deel staan de auteurs stil bij de trainingsdata en bij het auteursrecht. Huidige wettelijke kaders, zoals fair use in de VS en de TDM-vrijstelling (text and data mining) in de EU, bieden volgens de auteurs enige houvast bij het gebruik van auteursrechtelijk beschermd materiaal om AI-modellen te trainen. Zij zijn echter van mening dat deze kaders mogelijk geen volledig antwoord bieden op de complexiteit die inherent is aan generatieve AI-systemen, die volgens hen rechtstreeks kunnen concurreren met originele werken en deze zelfs kunnen verbeteren.

De auteurs onderstrepen het belang van een evenwicht tussen technologische vooruitgang en het behoud van de rechten van makers om zich te bewegen door het auteursrechtelijk landschap in de context van AI. Het is volgens hen essentieel om alternatieven te vinden voor het beschermen van AI-trainingsgegevens voor het verbeteren van transparantie en toegankelijkheid van gegevens.

Strategieën zoals duidelijke overeenkomsten voor het delen van gegevens, compensatiemodellen die voorzien in het delen van inkomsten of royalty’s, gegevensopslagplaatsen of clearinghouses, en de ontwikkeling van ethische richtlijnen en industriestandaarden kunnen een verantwoord en rechtmatig gebruik van auteursrechtelijk beschermde werken in AI-systemen bevorderen, zo menen de auteurs.

5 Ways ChatGPT Can Improve, Not Replace, Your Writing

David Nield beschrijft hoe ChatGPT schrijvers kan bijstaan, in plaats van hun werk over te nemen. Allereerst kan ChatGPT assisteren bij het vinden van het juiste woord. In tegenstelling tot een thesaurus, biedt ChatGPT volgens Nield flexibiliteit in het suggereren van alternatieve woorden of uitdrukkingen, al dan niet gebaseerd op specifieke criteria. Een tweede toepassing is het vinden van inspiratie. Als een schrijver vastloopt, kan ChatGPT volgens Nield ideeën genereren over plotwendingen, karaktermotivaties of scène-instellingen. Dit kan variëren van algemene concepten tot zeer gedetailleerde suggesties.

Nield benadrukt ook het onderzoeksvoordeel van ChatGPT. In plaats van te vertrouwen op traditionele zoekmachines, kan ChatGPT coherente en contextuele antwoorden bieden op specifieke vragen. Uiteraard moet je altijd de output inhoudelijk verifiëren.

Daarnaast kan ChatGPT helpen bij het kiezen van fictieve namen voor personages of plaatsen. Door de chatbot details te geven over een personage of plaats, kan de AI-tool geschikte en creatieve naamopties suggereren.

Tot slot biedt ChatGPT ondersteuning bij het redigeren. De chatbot kan schrijfwerk evalueren op consistentie, spelling, grammatica en toon. Volgens de auteur gaat het erom een een evenwicht te bewaren tussen het accepteren van ChatGPT’s suggesties en het behouden van eigen zeggenschap over het schrijfproces.

Shadow AI will be much worse than Shadow IT

In de wereld van AI is data ons meest waardevolle bezit. Nick Brackney waarschuwt echter voor de gevaren van “Shadow AI”, een term die verwijst naar het onofficiële gebruik van generatieve AI zonder toezicht. Deze trend is in lijn met “Shadow IT”, waarbij medewerkers cloudservices gebruiken zonder goedkeuring van de IT-afdeling. Met de opkomst van openbare clouds konden afdelingen snel innoveren zonder op IT te wachten. Dit kon leiden tot datalekken en blootstelling aan risico’s vanwege een gebrek aan kennis met betrekking tot veiligheid.

Het belangrijkste verschil tussen Shadow IT en Shadow AI is de schaal van het risico. Bij Shadow IT waren volgens Brackney voornamelijk ontwikkelaars het ‘risicopunt’. Als ik kijk naar het onderwijs dan vormen docenten ook een ‘risicopunt’ als men eigen applicaties gebruikt waartoe men lerenden toegang geeft of als men applicaties voor onderwijsdoeleinden gebruikt , waar de organisatie geen ‘controle’ op heeft. Persoonsgegevens kunnen zo maar op straat komen te liggen, gegevens over de voortgang zijn alleen toegankelijk voor de individuele docent, enzovoorts.

Bij generatieve AI vormt elke gebruiker een potentieel risico, meent Brackney. Generatieve AI leert van namelijk van jouw data, waardoor de kans op onbedoelde blootstelling groter wordt. Brackney benadrukt de ernst van de situatie door het voorbeeld te geven van het handelsgeheim van Coca-Cola. Stel je voor dat zo’n geheim wordt ingevoerd in een openbaar AI-programma; zou het dan nog geheim blijven?

Om risico’s te beperken, stelt Brackney drie oplossingen voor:

1. Centraliseer Strategie en Toezicht: Net als bij elke kritieke technologie, moeten leidinggevenden actief betrokken zijn bij het definiëren van het gebruik en het waarborgen van de gegevensbescherming.
2. Classificeer Data en Gebruik: Begrijp welke data absoluut beschermd moet worden. Bijvoorbeeld handelsgeheimen, persoonlijke informatie van lerenden en gevoelige processen.
3. Breng AI naar uw Data: In plaats van data naar AI te brengen, wat risico’s inhoudt, is het veiliger om AI te implementeren waar de data al veilig is, zoals op lokale systemen.

Wat ik hierbij mis, is een bewustwordingscampagne richting gebruikers. Je moet als gebruiker weten dat je geen privacygevoelige en ‘organisatiegevoelige’ gegevens moet invoeren in generatieve AI-toepassingen. En ja: ook binnen een onderwijscontext wordt gevoelige informatie gebruikt en kan het vertrouwen in de onderwijsorganisatie gemakkelijk worden aangetast.

What if Generative AI turned out to be a Dud?

De waarde van generatieve AI-toepassingen reikt volgens Gary Markus tot in de miljarden, terwijl de daadwerkelijke inkomsten op het moment van schrijven slechts honderden miljoenen dollar bedragen. Gary Marcus geeft aan dat deze inkomsten voornamelijk afkomstig zijn van het semi-automatisch genereren van code en tekst. Hij vraagt zich af wie op langere termijn zal betalen voor het gebruik van deze toepassingen. Terwijl programmeurs blij zijn met de hulp van generatieve AI vanwege de autocomplete-functies, zijn er ook negatieve ervaringen. Zo hebben academici en juristen volgens hem teleurstellende ervaringen opgedaan bij het gebruik van deze technologie. Hij refereert daarbij onder meer aan het feit dat generatieve AI kan hallucineren. Dit probleem zou volgens hem niet snel opgelost kunnen worden.

Marcus meent dat de huidige hype rondom generatieve AI wellicht overdreven is. Hoge bedrijfswaarderingen en verwachtingen kunnen plotseling inzakken als blijkt dat de technologie niet kan leveren wat er van haar verwacht wordt. Daarbij waarschuwt hij voor een mogelijke financiële correctie in de markt en de geopolitieke spanningen rondom het AI-leiderschap tussen de VS en China. Er zijn volgens hem zorgen dat wereldwijd en nationaal sprake is van te veel optimisme ten aanzien van de potentie van generatieve AI.

Een centraal punt in Marcus’ betoog is het onderscheid tussen generatieve AI en AGI (algemene kunstmatige intelligentie). Terwijl diverse betrokkenen bij AI volgens Marcus suggereren dat AGI binnen handbereik is, betwijfelt hij dit sterk. Volgens hem zijn er nog tal van onopgeloste problemen, zoals de neiging van systemen om valse informatie te genereren en hun instabiliteit in de loop van de tijd. Deze problemen maken generatieve AI ongeschikt voor bredere toepassingen.

Marcus benadrukt dat we kritisch moeten blijven over wat generatieve AI werkelijk kan bieden. Hoewel sommigen in de tech-industrie deze zorgen eindelijk lijken te erkennen, pleit hij ervoor dat we onze wereld niet volledig moeten bouwen op de veronderstelling dat generatieve AI al onze verwachtingen zal waarmaken.

Wat me bij Gary Marcus’ bijdrage opvalt is de hoge mate van anekdotisch bewijs en de beperkte scope van de toepassingen van generatieve AI die hij beschrijft. Ik lees ook betrekkelijk weinig opinies van experts die denken dat AGI binnen handbereik is. Het kan best zijn dat de waarde van bepaalde generatieve AI-toepassingen overschat wordt, en dat een correctie zal optreden. Ook is het niet onwaarschijnlijk dat bepaalde bedrijven en toepassingen zullen verdwijnen. De kans dat dit met generatieve AI zal gebeuren, schat ik als klein in.

Ugly Numbers from Microsoft and ChatGPT Reveal that AI Demand is Already Shrinking

Ted Gioia wijst in deze bijdrage op de dalende hype rondom kunstmatige intelligentie (AI). Microsoft’s grote investering van $10 miljard om met hun Bing zoekmachine Google bij te benen met behulp van AI heeft volgens de auteur niet tot de gewenste groei geleid. Sterker nog, het marktaandeel van Bing is blijven steken op 3% en is zelfs enigszins gedaald. Ondanks de huidige slechte zoekresultaten van Google heeft hun AI-gebaseerde toepassing ook niet tot een grote doorbraak geleid. Google’s Bard heeft zichzelf ook in verlegenheid gebracht met grove fouten en bizarre uitspraken.

Consumenten lijken volgens de auteur, ondanks de beloftes, niet gecharmeerd te zijn van AI. Dit ziet Gioia niet alleen bij zoekmachines maar ook op de website van ChatGPT, waar het verkeer volgens hem afneemt. In tegenstelling tot wat men zou verwachten bij echte technologische doorbraken, is de respons op AI eerder te vergelijken met een kortstondige hype of rage, zo stelt hij.

Gioia benadrukt verder dat er veel is geïnvesteerd in AI, maar dat de acceptatie door consumenten laag blijft. Er zijn groeiende zorgen over AI: zo willen 72% van de Amerikanen dat de ontwikkeling van AI vertraagt en heeft een groot percentage van de grote bedrijven moeite om generatieve AI daadwerkelijk te implementeren.

Bovendien is er toenemende juridische aandacht voor AI, met zaken variërend van schending van intellectueel eigendom tot plagiaatbeschuldigingen. En hoewel er successen zijn met AI, zijn deze vaak negatief van aard, zoals in ransomware of nep nieuws.

Het jaar 2023 zal volgens de auteur waarschijnlijk niet herinnerd worden als het jaar waarin AI alles beter maakte, maar eerder als het jaar waarin bedrijven een onvoldoende ontwikkelde en potentieel gevaarlijke technologie introduceerden waarop het publiek sceptisch reageerde. De toekomst van AI blijft onzeker, maar volgens Gioia zijn de tekenen tot nu toe niet bemoedigend. Hij stelt:

We’re only a few months into the AI revolution, but it’s already an ugly tale. The only thing I haven’t figured out yet is whether it’s a comedy or a tragedy.

Het is goed om je te realiseren dat deze bijdrage van 23 augustus 2023 is. Ik heb niet de indruk Gioia’s verwachting realiteit is geworden. Ontwikkelaars van generatieve AI-toepassingen hebben nog heel wat barrières te slechten en problemen op te lossen. Ted Gioia heeft echter een wel erg zwartgallige kijk op deze ontwikkeling. Een ontwikkeling, die bovendien het resultaat is van een decennia lange trend. De wijze waarop in betrekkelijk korte tijd verbeteringen beschikbaar komen vind ik best indrukwekkend.

Andere bronnen over ChatGPT (geen tijd om kort te beschrijven of Nederlandstalig)

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

This content is published under the Attribution 3.0 Unported license.

Geef een reactie