In Adults Have Struggled to Set Rules for AI In School. These Teens Figured It Out beschrijft Cory Turner hoe bijna honderd Amerikaanse middelbare scholieren tijdens een weekend in een nagebouwde Senaatszaal in Boston wél tot een landelijk AI-beleid voor het onderwijs kwamen; iets waar volwassen beleidsmakers in de VS tot nu toe niet in slaagden (of wilden slagen?).
De 98 lerenden, afkomstig uit alle vijftig staten en veelal in de bovenbouw van het voortgezet onderwijs, waren geselecteerd door hun schoolleiding en uitgenodigd door onder meer het Edward M. Kennedy Institute. Volgens Turner is er in de Verenigde Staten geen landelijk beleid voor AI-gebruik op scholen, waardoor staten en schooldistricten zelf regels moeten opstellen. De lerenden wezen erop dat volwassenen ook bij eerdere technologieontwikkelingen, zoals sociale media en smartphones, te laat ingrepen om jongeren te beschermen.
De lerenden werden verdeeld in subcommissies gericht op respectievelijk lerenden, docenten, schoolleiders en ouders, en debatteerden over tientallen voorstellen die vooraf waren ingediend. Uiteindelijk werd de “Students First Act” met 82 tegen 16 stemmen aangenomen. Het is geen officiële wetgeving, maar de Amerikaanse vereniging voor schoolleiders is van plan de tekst te delen met de tienduizend schoolleiders die bij de organisatie zijn aangesloten en die nu vaak zelf hun eigen AI-regels opstellen.
Het onderdeel voor lerenden telt vijftien bepalingen. Een terugkerend punt van zorg was dat AI het denkwerk van lerenden zou overnemen. Volgens de vastgestelde richtlijnen mogen lerenden AI niet gebruiken om teksten te laten schrijven, terwijl bewerken, brainstormen en leren met AI vanaf de achtste klas wel worden toegestaan (vergelijkbaar met onze tweede klas middelbare school). Lerenden die AI mogen gebruiken, moeten volgens de bepalingen kunnen aantonen hoe ze het hebben ingezet en hun beheersing van de stof kunnen laten zien via gesprekken, handgeschreven toetsen of een mondelinge verdediging. Bij een vermoeden van oneigenlijk gebruik moet het werk niet alleen door AI-detectiesoftware worden beoordeeld -die volgens het artikel onbetrouwbaar kan zijn- maar ook door twee medewerkers van de school.
Een ander discussiepunt was op welk moment lerenden voor het eerst met AI in de klas in aanraking zouden moeten komen. De uiteindelijke oplossing: scholen moeten AI-geletterdheid onderwijzen zodra apparaten in de klas worden geïntroduceerd, met aandacht voor desinformatie, plagiaat, vooringenomenheid in AI-ontwerp, privacy, passend educatief gebruik en de milieu-impact van AI. Tijdens het debat werd ook de vraag opgeworpen wie deze aanvullende instructie zou moeten betalen, gezien de bestaande financieringsverschillen tussen Amerikaanse scholen; de lerenden losten dit op met een bepaling die om federale bijdragen vraagt.
Ook voor docenten bevat de wet bepalingen: AI mag worden ingezet voor lesplanning, het maken van oefenmateriaal, het geven van feedback en het verbeteren van instructie. Docenten moeten elk semester een schriftelijk AI ‘usage policy‘ publiceren waarin staat wanneer AI wel en niet is toegestaan. Als een AI-detector mogelijk oneigenlijk gebruik signaleert, moet de docent dit volgens de bepalingen eerst zelf onderzoeken voordat de zaak bij de schoolleiding wordt gemeld.
Het onderdeel over ouders en verzorgers riep meer discussie op, omdat de lerenden vonden dat je ouderschap niet via wet kunt regelen. Scholen kunnen ouders niet voorschrijven wat of hoe ze hun kinderen moeten onderwijzen. Een eerdere versie gaf ouders volledige zeggenschap over het AI-gebruik van hun kind, maar dit werd geschrapt omdat AI volgens de ‘senatoren’ niet meer weg te denken is uit het dagelijks leven en lerenden moeten leren ermee om te gaan.
Een van de meest besproken kwesties betrof schoolchatbots die worden ingezet voor emotionele ondersteuning. Sommige lerenden vreesden dat gevoelige informatie, bijvoorbeeld over seksuele geaardheid of een mentale crisis, vertrouwelijk zou moeten blijven. Anderen brachten in dat een chatbot bij signalen van suïcidale gedachten juist een mens moet inschakelen. De lerenden kozen uiteindelijk voor het laatste: bij signalen van nood moet de chatbot geen hulp bieden, maar schoolpersoneel waarschuwen.
De volledige versie van de door de jongeren vastgestelde richtlijnen vind je hier.
Mijn opmerkingen
Wat dit initiatief interessant maakt, is niet zozeer de inhoud van de bepalingen, maar het proces: lerenden zelf lieten zien tot compromissen te kunnen komen op precies de vraagstukken waar volwassen beleidsmakers in de VS niet langer toe in staat blijken te zijn. Sterker, ik vraag me af of de landelijke senaat in de VS dergelijke bepalingen wel wil vaststellen. Mede omdat men, dankzij de invloed van Trump’s ’tech bro’s’ AI-technologie niet al te veel in de weg wil leggen.
Ik vind het zelf vanuit het perspectief van autonomie van onderwijsorganisaties ook de vraag of en wetgever op landelijk niveau bepalingen en richtlijnen over AI-gebruik moet op stellen. Zijn onderwijsorganisaties daar niet zelf verantwoordelijk voor? Wel kunnen overheden en koepelorganisaties de discussie hierover aanjagen, de noodzaak ervan benadrukken en voorbeeld richtlijnen formuleren. Je moet daarbij ook rekening houden met verschillende contexten. Het bewerken van een tekst, zoals het verbeteren van de spelling of schrijfstijl, kan bij een vak als geschiedenis worden toegestaan, terwijl dat bij Nederlands verboden is.
Het is m.i. ook van belang om de richtlijnen regelmatig te updaten, mede op basis van technologische veranderingen en als gevolg van voortschrijdend inzicht.
Tot slot: het is alweer meer dan twee jaar gelden dat we bij Roercollege/Schöndeln richtlijnen over AI-gebruik hebben vastgesteld. Ik ging er eerlijk gezegd van uit dat onderwijsinstellingen inmiddels wel dergelijke richtlijnen zouden hebben. Daarom verbaasde het me dat het initiatief voor deze ‘senaats-sessie’ een tijdje geleden werd genomen. Al blijft het een relevant thema om met tal van betrokkenen te blijven bespreken.
Lerenden, docenten, onderwijsorganisaties en ouders maken deel hiervan uit. Daarnaast zouden ook AI-ontwikkelaars hun technologieën zodanig moeten ontwerpen dat zij leerresultaten en welbevinden van lerenden bevorderen, en niet schaden. Daarvoor heb je m.i. wel wetgeving nodig.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.
Geef een reactie