Een handreiking voor een beleidskader en gedragscode
ChatGPT staat sinds de lancering door OpenAI een jaar geleden in de belangstelling van veel organisaties en gebruikers. Ook in het onderwijs wordt er met belangstelling gekeken naar de mogelijkheden die het met zich meebrengt. Maar de inzet van ChatGPT en AI in het algemeen brengt ook risico’s en vragen met zich mee. Denk hierbij aan het schenden van auteursrecht, het overtreden van de AVG of het verspreiden van onbetrouwbare of misleidende informatie. Ook spelen er ethische vragen zoals de klimaatimpact of de ongewenste machtsconcentratie bij Big Tech.
Daarom is het belangrijk om het gesprek aan te gaan over de inzet van AI en een (onderwijskundige) visie en kaders te formuleren voor de inzet binnen de onderwijsorganisatie. Op basis van deze kaders kan er een gedragscode worden opgesteld voor het gebruik van ChatGPT en andere AI-applicaties.
Hieronder een aantal stappen om tot een beleidskader te komen:
- Bespreek de doeleinden voor de inzet van ChatGPT en of het gebruik in lijn is met de missie en de visie van de organisatie. Daarbij speelt de vraag of er publieke waarden op het spel staan en of er mogelijk belangen worden geschaad van betrokkenen, zoals leerlingen, docenten, ouders, collega’s en de samenleving in het algemeen. De WaardenWijzer kan helpen dit gesprek te voeren.
- Toets of de beoogde inzet voldoet aan de wet- en regelgeving en het eigen beleid waaronder het privacy beleid. Denk aan het voldoen aan de basisprincipes van de AVG en het uitvoeren van DPIA’s bij hoog risicoverwerkingen. Betrek de FG hierbij. Toezichthouders worstelen nog met de rechtmatigheid van ChatGPT. Ook zijn er vragen rondom het auteursrecht omdat ChatGPT gebruik maakt van bronnen zonder bronvermelding of toestemming. Komend jaar worden de eisen relevant die de aankomende Europese AI verordening zal stellen, bijvoorbeeld met betrekking tot transparantie.
- Breng ook het huidige gebruik in kaart en ga na of het past binnen de doeleinden.
- Leg momenten vast voor evaluatie van de inzet en gevolgen van het gebruik van ChatGPT. De output is niet altijd juist, kan ‘biased’ zijn en komt niet transparant tot stand; dit kan leiden tot ongewenste situaties en klachten. Besteed aandacht aan deze problemen of klachten en stel eventueel het beleid en/of de gedragscode bij.
- Blijf op de hoogte van de nieuwste ontwikkelingen en best practices op het gebied van AI en ChatGPT. OpenAI is niet de enige partij die een AI chatbot als ChatGPT aanbiedt. Zoek naar aanbieders en producten die aansluiten bij de visie, missie en het beleid. Er worden interessante initiatieven genomen om tot een beter aanbod te komen.
- Maak op basis van het beleid een gedragscode of reglement voor het gebruik van ChatGPT en actualiseer die regelmatig. Informeer de betrokkenen over de mogelijkheden, beperkingen en risico’s van ChatGPT bij het publiceren van de gedragscode.
Wat je wilt regelen in een gedragscode hangt af van de inzet van ChatGPT en de context waarbinnen deze applicatie gebruikt gaat worden. Aandachtspunten hierbij:
- Het gebruik van ChatGPT, wat is wel en niet toegestaan? Bijvoorbeeld een beperking tot het gebruik voor een eerste opzet of structuur van een tekst.
- De controle op de kwaliteit, nauwkeurigheid en relevantie van de teksten die ChatGPT genereert, zodat het mogelijk is om eventuele onjuistheden of ongewenste inhoud (denk aan discriminatie) te corrigeren.
- Het vermelden bij een met behulp van ChatGPT geproduceerde tekst dat het gaat om een door ChatGPT gegenereerde tekst en niet om een eigen creatie.
- Het voorkomen van de invoer van persoonsgegevens of vertrouwelijke informatie. Vermijd ook output met persoonsgegevens of vertrouwelijke informatie. Stel regels op voor als dat toch het geval is.
- De keuze met betrekking tot het account voor toegang tot ChatGPT en de beveiliging van het account. Kies niet voor een persoonlijk e-mailadres.
- Kies de opt-out opties binnen ChatGPT met betrekking tot het gebruik van de data voor training en het bewaren van de geschiedenis.
- Kijk ook naar het gebruik in de praktijk en neem dat mee bij het opstellen van de gedragscode.
Meer lezen?
EDPB launches ChatGPT task force, and other AI updates (iapp.org)
ipo-whitepaper-verkenning-chatgpt.pdf
WaardenWijzer: in gesprek over onderwijswaarden en digitalisering (kennisnet.nl)
FAQ ChatGPT: veelgestelde vragen over ChatGPT in het onderwijs (kennisnet.nl)