Valse positieven, echte schade - stop met AI-detectoren

Belangrijkste punten

• AI-detectoren zijn onbetrouwbaar en produceren onaanvaardbaar veel valse positieven en valse negatieven.
• Detectoren schaden studenten: ze wekken wantrouwen en zijn bevooroordeeld tegenover kwetsbare groepen.
• Kies voor transparantie en onderwijs AI-geletterdheid in plaats van studenten te controleren.

Inleiding

De opkomst van generatieve AI heeft de academische evaluatie fundamenteel ontwricht. Tools zoals ChatGPT schrijven essays en lossen problemen op met ongekende snelheid en kwaliteit, waardoor docenten voor een cruciale vraag staan: hoe bevorderen we academische eerlijkheid en kritisch denken wanneer elke student moeiteloos toegang heeft tot generatieve AI?

In de haast om de academische integriteit te bewaken, grepen veel instellingen naar AI-detectiesoftware om machinaal geschreven tekst te herkennen. Die reactie berustte echter op een verkeerde aanname - zoals experts van MIT het onomwonden stellen: AI-detectoren werken niet. Het blijvende vertrouwen in deze gebrekkige technologie, vaak gevoed door een misverstand over hoe ze werkt, brengt aanzienlijke risico's mee voor studenten en ondermijnt precies de doelen van het onderwijs. Dit artikel biedt daarom een gerichte analyse: we leggen uit hoe AI-detectoren werken, waar ze falen, en welke negatieve gevolgen dat heeft voor studenten en de bredere academische gemeenschap. We blijven niet bij kritiek staan, maar schetsen ook een toekomstgerichte aanpak op basis van transparantie, waarbij de uitdaging van AI een kans voor pedagogische vernieuwing wordt.

Inhoudsopgave

• Wat zijn AI-detectoren?
• Hoe AI-detectie werkt
• Waar AI-detectie faalt
• De impact van AI-detectie op studenten
• Brede institutionele terugtrekking
• Hoe ga ik dan wel om met AI?

Wat zijn AI-detectoren?

AI-detectoren zijn tools die het onderscheid proberen te maken tussen door mensen en door machines geschreven inhoud, door schrijfstijl, structuur en taalkundige patronen te analyseren. Hun kernfunctie is echter niet om bewijs te leveren, maar om de waarschijnlijkheid te schatten dat een tekst geschreven is door een groot taalmodel (LLM) zoals ChatGPT.

De uitkomst van elke AI-detector is een waarschijnlijkheidsscore - een gok op basis van statistische patronen. Dit is een cruciaal punt dat vaak verkeerd begrepen wordt. Markeert een tool een paper als "80% waarschijnlijk AI-gegenereerd", dan beweert die niet dat 80% van de inhoud door een LLM is geschreven. De tool schat dat er 80% kans is dat de volledige tekst van een machine komt. Het is een oordeel over het geheel, geen maat voor de onderdelen - en het blijft in het beste geval een onderbouwde gok.

Hoe AI-detectie werkt

In de kern zijn de meeste AI-detectoren zelf een vorm van AI-model. Concreet zijn het classificatiemodellen uit machine learning. Ze worden getraind op enorme datasets met menselijke en door AI geschreven teksten, en leren zo de statistische verschillen in schrijfstijl, structuur en taalkundige patronen herkennen.

Bedrijven die AI-detectoren bouwen, zoals GPTZero, Grammarly of Scribbr, zeggen vaak dat hun modellen kijken naar kenmerken als perplexity en burstiness - maten voor hoe voorspelbaar en gevarieerd een tekst is - om te bepalen hoe waarschijnlijk het is dat een tekst AI-gegenereerd is. Die maten werden vroeger inderdaad gebruikt en gaven enig zicht op de besluitvorming van deze tools, maar ze zijn intussen grotendeels achterhaald. Tegenwoordig gaan de gegevens rechtstreeks naar het model, dat interne representaties opbouwt die alleen het model zelf begrijpt om tot een beslissing te komen.

Daardoor zijn AI-detectoren van nature een "black box". Hun interne besluitvorming is volledig ondoorzichtig. Ze leggen niet uit waaróm ze denken dat een tekst AI-gegenereerd is; ze geven enkel een waarschijnlijkheidsscore.

Waar AI-detectie faalt

AI-detectoren kunnen op twee manieren falen:

• Valse negatieven: de detector herkent documenten die wél AI-gegenereerd zijn niet als zodanig. Deze faalwijze toont hoe ondoeltreffend de tool is, want gebruikers omzeilen de detectie moeiteloos. Een uitgebreide studie uit 2024 van de University of Pennsylvania stelde vast dat detectoren "gemakkelijk om de tuin te leiden" zijn met eenvoudige technieken: kleine handmatige aanpassingen, parafraseren, of andere AI-tools gebruiken om de tekst te "vermenselijken". Wie begrijpt hoe detectoren werken, omzeilt ze 80 tot 90% van de tijd. Daarmee zijn ze nutteloos om academische fraude betrouwbaar op te sporen.

• Valse positieven: dit is de gevaarlijkste faalwijze, waarbij origineel werk van een student ten onrechte als AI-gegenereerd wordt gemarkeerd. De gevolgen kunnen verwoestend zijn: beschuldigingen van oneerlijkheid, onvoldoendes, tuchtmaatregelen en aanzienlijk emotioneel leed. De percentages valse positieven lopen uiteen. Turnitin verklaarde bijvoorbeeld dat zijn detector een percentage valse positieven van minder dan 1% haalt, maar kwam daar later op terug zonder het exacte percentage bekend te maken.

De impact van AI-detectie op studenten

format_quote

Zien dat ik ervan beschuldigd werd AI te hebben gebruikt terwijl ik in mijn hart wist dat ik dat niet had gedaan, was echt heel stresserend, want ik had geen idee hoe ik mijn onschuld ooit moest bewijzen.

Maggie Seabolt, studente aan Liberty University

Vertrouwen op detectoren creëert een sfeer van achterdocht en wantrouwen. Zoals een professor schreef, "doodt het het vertrouwen waarop elke onderwijsrelatie steunt". Studenten worden gedwongen hun eigen werk te verdedigen tegen het oordeel van een blackbox-algoritme - een stresserende en vaak demoraliserende ervaring. Lees eender welke Reddit-thread over AI-detectie en u ziet meteen hoe studenten erover denken. Onderzoek wijst op de aanzienlijke psychologische en materiële gevolgen van valse beschuldigingen voor studenten: ze tasten hun zelfvertrouwen aan en beschadigen hun band met de instelling.

Daarnaast heeft AI-detectie een onevenredige impact op kwetsbare studenten. De zwaarste aanklacht tegen AI-detectoren is hun ingebakken vooringenomenheid: ze straffen wie niet schrijft zoals het model "normaal" vindt onevenredig hard af. Concreet markeren AI-detectoren vaker inhoud die geschreven is door:

• Niet-moedertaalsprekers van het Engels: een studie van Stanford stelde vast dat detectoren meer dan de helft van de essays van niet-moedertaalsprekers als AI-gegenereerd markeerden. Zoals een artikel van Berkeley betoogt, zitten deze studenten klem: ze worden gecontroleerd omdat ze anders schrijven, maar evengoed omdat ze tools gebruiken die hun taalachterstand zouden kunnen overbruggen.
• Neurodivergente studenten: zoals Bloomberg berichtte, worden zij vaak beschuldigd van AI-gebruik omdat hun schrijfstijl niet overeenkomt met de patronen die de detectoren verwachten.
• Zwarte studenten: zij lopen volgens een recent rapport van Common Sense Media meer dan twee keer zoveel kans als hun witte medestudenten om ten onrechte beschuldigd te worden van AI-gebruik.

Brede institutionele terugtrekking

De onbetrouwbaarheid en de ethische bezwaren van AI-detectoren hebben in de VS geleid tot een brede institutionele terugtrekking. Een groeiende lijst universiteiten, waaronder MIT, Yale, Northwestern en de University of Pittsburgh, heeft deze tools verboden of het gebruik ervan sterk afgeraden.

Het Teaching Center van de University of Pittsburgh verklaarde de tools niet te kunnen aanbevelen vanwege het "aanzienlijke risico op valse positieven en de gevolgen die zulke beschuldigingen met zich meebrengen". Die opvatting weerklinkt in de hele academische wereld. De boodschap van toonaangevende instellingen is duidelijk: het risico dat een onschuldige student vals beschuldigd wordt is te groot, en de tools zijn te onbetrouwbaar om een academisch oordeel op te baseren.

Ook aan deze kant van de Atlantische Oceaan is men zich ervan bewust dat de uitkomsten van deze tools niet te vertrouwen zijn, al zijn er publiek nog geen beslissingen genomen om het gebruik te verbieden of te beperken.

Hoe ga ik dan wel om met AI?

AI verdwijnt niet, verbieden is onhoudbaar, detecteren is een mislukte strategie, en studenten misbruiken AI op manieren die tegen het hele academische project ingaan. Tegelijk is AI op weg om de belangrijkste technologie van onze generatie te worden en zal ze wellicht een vast onderdeel zijn van elke toekomstige job. De uitdagingen voor het onderwijs zijn dringender dan ooit. Hoe moeten onderwijsinstellingen dan omgaan met AI?

Evaluatie herdenken voor het AI-tijdperk

De eerste stap is AI niet langer als bedreiging te zien, maar als instrument. Correct ingezet is AI een krachtige partner bij het leren: een socratische tutor die studenten helpt brainstormen, een geduldige assistent die complexe begrippen uitlegt, en een hulpmiddel dat de toegankelijkheid verhoogt. Het doel mag niet zijn te verhinderen dat studenten AI gebruiken, maar hun te leren AI verantwoord, ethisch en doeltreffend in te zetten.

Dat vraagt een fundamentele omslag in hoe we leren evalueren. Decennialang bood het eindessay een helder venster op het denken van een student. Maar wanneer een machine in enkele seconden een verzorgd essay produceert, houdt dat essay op een betrouwbare maatstaf te zijn voor de inspanning of het begrip van een student. Onze aandacht moet daarom verschuiven van het afgewerkte eindproduct naar het rommelige, veelzeggende proces dat eraan voorafgaat. We moeten de reis zien, niet alleen de bestemming.

Dat is de filosofie die ons bij DidactLabs drijft. Wij geloven dat het antwoord op het AI-dilemma niet detectie is, maar transparantie.

In plaats van te schatten óf studenten AI gebruiken, toont ons platform u hoe en waarom ze het gebruiken. We bieden een transparante schrijfomgeving waarin docenten het volledige proces zien: wat een student zelf schrijft, wat die uit externe bronnen plakt, en hoe die omgaat met de geïntegreerde AI-assistent. Die zichtbaarheid geeft de evaluatie haar integriteit terug en - belangrijker nog - verandert AI van een fraudemiddel in een leermiddel.

Door het proces centraal te stellen, stellen we docenten in staat studenten te begeleiden naar ethisch en productief AI-gebruik, en zo het kritisch denkvermogen en de AI-geletterdheid te ontwikkelen die ze in de toekomst nodig hebben. Het is tijd om de gebrekkige belofte van detectie achter ons te laten en te kiezen voor een nieuw sociaal contract voor AI in de klas - een contract gebouwd op vertrouwen, transparantie en een gedeelde toewijding aan echt leren.