Deze kritische bijdrage van Martin Weller gaat over een toepassing van generatieve AI die ikzelf dagelijks gebruik: het maken van samenvattingen. Weller ziet de waarde hiervan, maar beschrijft ook risico’s (die ik weer graag deels nuanceer).
Dankzij samenvattingen, gegenereerd door AI, krijgen professionals en lerenden snel inzicht in onderzoek en andere relevante publicaties (bijvoorbeeld buiten het eigen vakgebied). Er zijn volgens Weller echter ook kanttekeningen hierbij te plaatsen. Allereerst bij de huidige focus op AI-samenvattingen. Hij vraagt zich af waarom we überhaupt nog uitgebreide teksten schrijven als we alleen geïnteresseerd zijn in korte versies. Daarnaast wijst hij op het risico dat waardevolle details en nuances verloren gaan. Hij vergelijkt het met sport kijken: een samenvatting van de wedstrijd geeft een ander beeld dan het volgen van de hele wedstrijd.
Een andere zorgwekkende ontwikkeling is volgens Weller dat sommige organisaties alleen nog AI-samenvattingen aanbieden. Hij noemt het voorbeeld van The Washington Post, die experimenteert met het vervangen van hun archieven door een AI-systeem dat is getraind op deze archieven. Voor onderzoekers is dit problematisch omdat zij toegang nodig hebben tot de oorspronkelijke bronnen.
Weller waarschuwt voor een informatie-ecosysteem waarin samenvattingen worden gemaakt van samenvattingen, zonder dat er nog sprake is van echte kennis. Hij ziet hierin twee problemen: het onkritische geloof dat samenvattingen altijd waardevol zijn en het overdragen van informatiesystemen aan AI zonder goed na te denken over de gevolgen. Weller sluit zijn bijdrage overigens af met een samenvatting van zijn betoog.
Mijn opmerkingen
Martin Weller gaat niet in op het maken van een samenvatting als leeractiviteit versus het laten maken van een samenvatting door een AI-toepassing. Dit is ook een andere discussie. Het zelf maken van een samenvatting is leerzamer dan het laten maken van een samenvatting door een large language model.
Maar je wilt niet altijd elk artikel, paper, rapport of hoofdstuk actief bestuderen. Bijvoorbeeld omdat je dagelijks geconfronteerd wordt met zeer, zeer, vele interessante publicaties. Of omdat je schrijftaken moet uitvoeren waarbij je documenten moet verwerken. In die gevallen is het maar wat handig dat een AI-toepassing jou werk uit handen neemt. Want inderdaad: het is lang niet altijd nodig om uitgebreide teksten te schrijven. Wetenschappelijke artikelen bevatten, bijvoorbeeld, vaak de nodige ballast die voor een professional niet relevant is. Automatisch gegenereerde samenvattingen kunnen professionals helpen bij het hanteren van grote hoeveelheden informatie waarmee zij dagelijks worden overstroomd. Uiteraard is het wel van belang om te checken of samenvattingen inhoudelijk kloppen. Dat doe ik ook altijd als ik een bijdrage, zoals Weller’s blogpost, door Claude 3.5 Sonnet laat samenvatten.
Verder kunnen details en nuances inderdaad verloren gaan, net als dat bijvoorbeeld bij een verslag over een conferentie het geval is. Je mist bijvoorbeeld ook vaak de sfeer, de humor en andere aspecten van de stijl van een auteur of spreker. Maar is dat altijd erg? Samenvattingen van wedstrijden kunnen immers van een verder saaie wedstrijd, ook een boeiend kijkspel maken (als Roda JC fan heb ik recht van spreken). Wel gaat te veel verloren als je bijvoorbeeld een roman gaat samenvatten (ik wil het even niet hebben over de klassieke uittreksels).
Het uitsluitend aanbieden van samenvattingen is wel problematisch. Onderzoekers moeten bijvoorbeeld inderdaad toegang hebben tot oorspronkelijke bronnen. En ook andere gebruikers moeten in staat zijn het oorspronkelijke document te bestuderen, om de inhoud van de samenvatting te kunnen controleren.
This content is published under the Attribution 3.0 Unported license.
Geef een reactie