Docenten weten zich geen raad: ChatGPT al volop gebruikt op scholen en universiteiten. 'Hij is heel dom, maar lijkt heel slim'

Aan het eind van het interview geeft Malvina Nissim nog een paar opdrachten aan ChatGPT. Daar krijgen zij en haar vakgenoten sinds de chatbot in november werd gelanceerd, zichtbaar geen genoeg van. Eén opdracht luidt: ‘Bedenk een Nederlands woord om ChatGPT te beschrijven‘. Het antwoord is ‘taalmagie’. ,,Briljant gevonden, maar dat is het nou juist níet’’, roept Nissim, hoogleraar computationele taalkunde en maatschappij aan de Rijksuniversiteit Groningen (RUG), met een brede lach op haar gezicht, alsof ze een student van haar op een fout betrapt.

Voor wie het nog niet weet: ChatGPT is de nieuwste internetsensatie. Met deze ‘taalmachine’ kunnen op alle mogelijke gebieden in een mum van tijd teksten worden geproduceerd. Scholieren en studenten maken er voor hun werkstukken al dankbaar gebruik van. Docenten weten zich er vooralsnog geen raad mee. Wanneer is het toegestaan en wanneer is het fraude?

Decennialang hebben wetenschappers gewerkt aan de voorlopers van ChatGPT. Het komt onder meer aan bod in de studie Informatiekunde aan de RUG. Ook de onderzoeksgroep GroNLP bij Letteren heeft haar steentje bijgedragen, zegt Johan Bos, hoogleraar computationele semantiek. Universitair docent Tommaso Caselli en promovendus Wietse de Vries, die een taalmodel voor het Nederlands heeft gemaakt, zijn eveneens bij het gesprek aanwezig.

Over taal en computers werd door de buitenwacht altijd wat sceptisch gedaan. Alleen het menselijk brein kan betekenisvolle teksten formuleren, was de redenering. Aan de creativiteit van mensen kunnen computers niet tippen. Taal is te complex voor computers. Maar in november was daar ineens ChatGPT. Een zogeheten chatbot die is ontwikkeld door het bedrijf OpenAi en ondersteund door Microsoft.

Voor de taalwetenschappers was de komst ervan geen verrassing. Er zijn al eerdere versies van ChatGPT verschenen. Daar werd buiten de vakwereld nauwelijks ruchtbaarheid aan gegeven, omdat ze verre van perfect waren. Bos: ,,Vergeleken met de laatste versie is er een grote sprong voorwaarts gemaakt. Daar keken we ook zelf van op. Bijna iedereen in ons vakgebied is zwaar onder de indruk.’’

Hoe werkt ChatGPT? Op kinderlijk eenvoudige wijze kun je hem een opdracht geven. Maak een speech voor de koning over de staat van het land. Schrijf een gedicht over de liefde, een tragedie in de stijl van Shakespeare. Of een werkstuk over de opwarming van de aarde vanuit het perspectief van een klimaatontkenner. Je kunt de tekstslaaf alles laten schrijven in de stijl en vorm die je opgeeft. ,,Je kunt hem zelfs laten programmeren’’, weet Bos.

Levert het ook iets zinnigs op? Bos: ,,Als je hem een wetenschappelijk artikel laat schrijven, klopt er vaak geen snars van. Hoe langer de tekst hoe groter de kans dat er iets in staat wat niet juist is. Maar voor korte, algemene teksten zijn de resultaten verbluffend goed.’’

De wetenschappers zien ChatGPT vooral als hulpmiddel bij het opstellen van teksten. Ze vergelijken het met een rekenmachine. Bos: ,,We vroegen ChatGTP hoe we vanavond onze discussiebijeenkomst moesten structureren. Er kwam ongeveer hetzelfde stramien uit dat we zelf hadden bedacht. Hij noemde ook nog iets dat we over het hoofd hadden gezien, dus dat konden we nog mooi meenemen.’’

Anders dan Google Search is ChatGPT geen zoekmachine. ChatGPT is volgens Bos heel slecht in het beantwoorden van vragen. Als je vraagt ‘Wie is Mannus van der Laan?’, dan krijg je als antwoord: ‘Een voetballer van FC Groningen’. ,,Wat hij wel doet is het aaneenrijgen van woorden om een coherent verhaal te maken. Hij genereert nieuwe taal, terwijl een zoekmachine in bestaande teksten zoekt.’’

ChatGPT maakt volgens De Vries gebruik van taalmodellen. Een taalmodel voorspelt op basis van voorafgaande woorden vervolgwoorden. Vergelijk het met de woordsuggesties tijdens het whatsappen, maar dan op een dwingende manier. ,,Bij ChatGPT wordt de hele context in beschouwing genomen. Het is gebaseerd op onvoorstelbaar veel data op internet en gedigitaliseerde bestanden zoals boeken en kranten. Daar wordt vervolgens statistiek op losgelaten.’’

Anders dan mensen hebben computerprogramma’s geen bewustzijn. Dat is een wezenlijk verschil. Ze kunnen niet reflecteren op de inhoud. Nissim: ,,ChatGPT produceert taal, maar heeft geen kennis van de onderliggende feiten en gedachten.’’ Bos: ,,Hij heeft geen idee van wat hij schrijft. De teksten zijn grammaticaal wel erg vloeiend. Daar zit ook het gevaar in, want soms kraamt hij onzin uit.’’

Volgens Bos is het erg makkelijk om met ChatGPT nepnieuws te schrijven. ,,Juist omdat ChatGPT geen benul van waarheid heeft. De zinsvolgorde en argumentatie zijn heel goed. Hij schrijft overtuigende teksten, maar daarmee houdt het op. Hij is heel dom, maar lijkt heel slim.’’

Er kan makkelijk misbruik van worden gemaakt. Nissim: ,,Iemand met kwade bedoelingen kan op grote schaal nepinformatie produceren. Die zal zo echt lijken, dat het moeilijk wordt die te herkennen. Een ander gevaar is dat het gebaseerd is op bestaande teksten. De vooroordelen en stereotypen die erin zitten kunnen eindeloos worden gereproduceerd.’’

Voorlopig is ChatGPT nog gratis, maar vorige week kwam naar buiten dat er een commerciële versie komt waarop geen gebruikslimiet zit en die veel sneller is. Volgens Bos staan we nog maar aan het begin. ,,Alle grote techbedrijven hebben zich erop gestort. Veel van onze ex-collega’s werken daar aan taalmodellen. Google schijnt heel benauwd te zijn, omdat Microsoft ChatGPT wil inbouwen in de zoekmachine Bing. Het kan niet anders of Google komt met een tegenzet.’’

Het is moeilijk in te schatten wat uiteindelijk de invloed is van ChatGPT in de samenleving. Nissim: ,,We zitten middenin deze nieuwe ontwikkeling. Het zal veel impact hebben, dat is een ding dat zeker is. Daarom houden we er woensdag een discussiebijeenkomst over. We moeten er allemaal mee leren omgaan.’’