Risico’s en kansen van AI bij het genereren van teksten

Generative Pre-trained Transformer 3 (GPT-3) is een AI-toepassing waarmee je teksten kunt genereren. Deze toepassing heeft kansen, maar ook risico’s voor onderwijs en opleiden.

Vanochtend las ik een artikel over een ‘twitter-draad‘ waarin emeritus-hoogleraar Mike Sharples schrijft hoe je door middel van een GPT-3-transformer complete essays kunt schrijven. Sharples heeft de passage “The construct of learning styles is problematic because” in deze tool ingevoerd. Vervolgens heeft de GPT-3-transformer daar een volledige tekst van gemaakt, inclusief nep-referenties. Als lerenden dergelijke tools gebruiken voor het schrijven van essays, dan is volgens de geldende normen uiteraard sprake van fraude.

Volgens Sharples detecteert anti-plagiaatsoftware deze vorm van fraude niet. Lerenden kopiëren deze teksten immers niet. De tekst is origineel, maar geproduceerd door software. Deze tools zijn volgens de auteur amoreel omdat zij niet kunnen reflecteren op de output. Docenten kunnen volgens hem AI-tools ook gebruiken om essays te beoordelen. De nep-referenties worden echter niet ontdekt. Sharples schrijft:

Nobody learns, nobody gains. If ever there were a time to rethink assessment, it’s now.

Op basis van eigen experimentjes ben ik nog een risico op het spoor gekomen. Je hebt namelijk  GPT-3-transformers die de gebruiker ook in staat stellen alternatieve teksten te genereren. Je kopieert een originele tekst, kiest de toon van de tekst, en de tool produceert een nieuwe formulering. De tekst:

Critical thinking is all the rage in education. Schools brag that they teach it on their websites and in open houses to impress parents. Some argue that critical thinking should be the primary purpose of education and one of the most important skills to have in the 21st century, with advanced machines and algorithms replacing manual and repetitive labor. (bron)

is als volgt geherformuleerd:

Education is promoting critical thinking in nowadays. Schools boast that they teach critical thinking skills on their websites and during open houses to win over parents. Some argue that the primary purpose of education should be teaching students how to think critically, in a world where machines do much of the manual labor and advanced algorithms supersede repetitive tasks.

Ik kon maximaal 500 tekens in één keer invoeren en kiezen uit meerdere alternatieven. Dit is volgens de geldende normen ook fraude, die lastig door anti-plagiaatsoftware is te detecteren.

Kansen voor onderwijs en opleiden

Mike Sharples stelt dat we dergelijke tools echter ook kunnen gebruiken ten behoeve van het leren:

1. Deze tools laten lerenden snel verschillende manieren zien om ideeën uit te drukken en opdrachten te structureren. Je kunt in een les teksten laten genereren, lerenden vragen deze te bekritiseren en alternatieve versies schrijven.
2. Deze AI Transformers kunnen creativiteit bevorderen. Lerenden schrijven dan samen met de tool een verhaal (elk om de beurt een alinea). Dit kan volgens Sharples een goede manier zijn om verschillende mogelijkheden te verkennen en een ‘writer’s block’ te overwinnen.
3. Docenten kunnen door deze tools te gebruiken de ethiek en grenzen van AI onderzoeken.

Ik zie nog andere kansen voor onderwijs en opleiden:

• Deze tools kunnen ook outlines voor essays creëren. Je vult een titel in en de tool doet een voorstel voor een outline. Dit biedt studenten structuur voor het schrijven van de uitwerking.
• Deze tools kunnen ook samenvattingen van content ontwikkelen. Daar leren lerenden uiteraard niet van. Lerenden kunnen wel een eigen samenvatting maken en hun samenvatting vergelijken met de automatisch ontwikkelde samenvatting.
• Je kunt lerenden de opdracht geven om een originele tekst en een geherformuleerde tekst met elkaar te vergelijken, en de herformulering te verbeteren.

Sharples stelt ook dat we ons als docenten af moeten vragen of we lerenden echt helpen te leren als we hen opdrachten geven die door deze tools kunnen worden uitgewerkt. Volgens hem zijn er betere manieren van “assessment for learning“: constructieve feedback, peer assessment, teachback. In zijn twitter-draad doet hij geen uitspraken over “assessment of learning“.

Nota bene

• Je kunt niet altijd lange teksten laten genereren door deze tools.
• Ik heb nog geen GPT-3 Transformers ontdekt die ook Nederlandse teksten genereren. Ik heb wel een tool ontdekt die een Nederlandse tekst herformuleert en in het Engels vertaalt.
• Er zijn heel veel GPT-3 Transformers beschikbaar. Als je deze tools structureel wilt gebruiken, dan hangt er een prijskaartje aan vast. Bij één tool moest ik ook akkoord gaan met advertenties.
• Deze tools zullen steeds krachtiger worden en niet verdwijnen. We kunnen er maar beter slim mee omgaan. Het zou mooi zijn als in elk geval zichtbaar is als een tekst automatisch gegenereerd is.

This content is published under the Attribution 3.0 Unported license.