Nieuw stuk op Follow the Money:
Wil je niet gevolgd worden, dan ligt de verantwoordelijkheid daarvoor tegenwoordig bij jezelf. Momenteel speelt een praktijk die deze logica een niveau hoger tilt: studenten moeten hun huis en zichzelf verplicht laten inspecteren terwijl ze tentamen doen. Miriam Rasch ontrafelt de valse aannames achter dit digitale toezicht.
Lees hier verder: Privacyschending als standaard: thuistoezicht bij tentamens
Of hieronder:
Ik ben zo iemand die keer op keer, op elke website weer, haar cookie-instellingen aanpast om zo min mogelijk data weg te geven. Die weigert in te loggen bij YouTube en daarom bij elk filmpje eerst een pop-up moet wegklikken: ‘Nee bedankt.’ Ergerniswekkend, maar vooruit, ik doe mijn zelfopgelegde plicht en let goed op dat ik na het instellen van de schuifjes en vinkjes niet alsnog klik op de felgekleurde knop met ‘alles toestaan’.
Wil je niet gevolgd worden, dan ligt de verantwoordelijkheid daarvoor tegenwoordig bij jou. De afgelopen maanden kwam zo af en toe een casus in het nieuws die deze logica een niveau hoger tilt. Ik doel op software die controleert of studenten spieken bij tentamens, die sinds corona grotendeels online en vanuit huis worden gemaakt. Dit wordt ook wel proctoring genoemd, Engels voor wat bij ons gewoon (examen)surveillance heet.
Bedrijven buitelen over elkaar met de boodschap dat zij de beste zijn in het ontmaskeren van fraude. Of de technologie echt werkt, is onbekend
Kandidaten moeten voor aanvang van de toets met hun laptop-camera hun kamer filmen, zodat gecheckt kan worden – door een algoritme of door mensenogen – of er geen opengeslagen boeken liggen of andere mensen aanwezig zijn. Soms volgt de software gedurende het tentamen oog- en andere bewegingen, om zeker te zijn dat er echt geen spiekbriefjes aan het scherm of het plafond hangen. Het is niet verrassend dat dit nogal wat vragen oproept hoe de privacy is gewaarborgd.
Net zoals Zoom en MS Teams opeens door iedereen werden gebruikt, geldt dat ook voor de surveillance-software die duizenden, zo niet miljoenen studenten monitort, inclusief hun gezichten, kamers en typgedrag. Bedrijven en startups buitelen over elkaar heen met de boodschap dat zij de beste zijn in het ontmaskeren van fraude. Of de technologie echt werkt, is onbekend. Het zal mijn inborst zijn, maar ik krijg rillingen van zo’n lucratieve praktijk die geworteld is in valse beloftes en wantrouwen.
Niet verdacht, toch ongeldig
In de media is anekdotisch bewijs te vinden over de dubieuze kant van de techniek en de uitwerking daarvan in de praktijk. Om de software goed te laten functioneren, moet je allereerst een geschikte computer hebben met een niet-haperende internetverbinding. Je moet alleen zijn. De belichting moet kloppen, en o ja, dat is niet altijd makkelijk als je huid donkerder is dan die van de standaard witte software-ontwerper.
Is de software niet tevreden, dan kan die je zomaar de toegang tot het tentamen ontzeggen. Studenten blijken te zijn benadeeld, met soms grote gevolgen – omdat hun internetverbinding te traag was, het licht te fel of te zacht, omdat hun huidskleur niet voldeed, ze een tic hebben, of wie weet waarom. Van een student aan de Erasmus Universiteit werd het diploma ingetrokken: het laatste tentamen dat ze maakte bleek bij nader inzien ‘onbeoordeelbaar’ omdat de schermopname was mislukt. Ze wordt niet zozeer verdacht van fraude, maar fraude kan niet uitgesloten worden. En dus moet ze het tentamen nog een keer maken.
Privacy kan een grond zijn voor bezwaar, maar principes lijken daarbij niet genoeg; het moet gaan om ‘jouw specifieke en persoonlijke omstandigheden’
Je kunt makkelijk je schouders ophalen als het jou niet aangaat. Wat zeuren die studenten? Als ze geleerd hebben komt het heus wel goed. Maar de inzet van dit soort software ter vervanging van de surveillant die we van oudsher kennen, heeft te veel weg van een proeftuin, bijvoorbeeld voor vergelijkbare technologie die de productiviteit van thuiswerkers in de gaten moet houden. Daarom is het goed om de logica die deze casus inzake privacy blootlegt, nader te bestuderen.
De last ligt bij degene die al last ondervindt
Laten we beginnen met de mogelijkheid van een opt-out. Kun je gebruik van de surveillance-software weigeren? In een voorlichtingsfilmpje van onderwijsorganisatie Surf wordt verteld dat je als student bezwaar kunt maken, bijvoorbeeld omdat je geen computer of laptop hebt, of vanwege een ‘onzekere of onveilige situatie thuis’. Ook privacy kan een grond zijn voor bezwaar, maar principes lijken daarbij niet genoeg; het moet gaan om ‘jouw specifieke en persoonlijke omstandigheden’.
Er hoort hoe dan ook geen onderscheid te worden gemaakt tussen wie wel of geen privacybezwaren mag aanvoeren
Vreemd, want het hele idee van privacy is nu juist dat die geldt voor iedereen, ongeacht je persoonlijke situatie – die door de privacy nota bene beschermd wordt. Er hoort hoe dan ook geen onderscheid te worden gemaakt tussen wie wel of geen privacybezwaren mag aanvoeren. De Autoriteit Persoonsgegevens, onze nationale privacywaakhond, stelt in een notitie uit april: ‘Er is veel informatie te halen uit de beelden die bij beeldbellen en proctoring (digitaal surveilleren) worden verzonden naar onderwijsinstellingen of medestudenten. Allereerst over hoe leerlingen of studenten presteren, hoe zij zich gedragen en hoe het is gesteld met hun concentratie. Maar bijvoorbeeld ook over religieuze uitingen of wat gezinsleden doen die in de achtergrond zichtbaar zijn.’ Het zijn precies dat soort specifieke en persoonlijke omstandigheden die maken dat we ons met privacy bezighouden.
Terug naar de eerste grond voor bezwaar: een onzekere of onveilige thuissituatie. Hoe moeten we dat voor ons zien? Een licht ontvlambare partner, een dictatoriale pater familias die het gezin in bedwang houdt als een lockdown binnen een lockdown, een woning waarin het onmogelijk is je terug te trekken in ‘a room of one’s own’? Vallen faalangst of een handicap eronder, een donkere huidskleur of een ronder gezicht dan ‘gemiddeld’? (‘Variation outside the standard deviation results in a flag,’ noteerde Vice.)
Hoewel je bezwaar kunt aantekenen als je je in zo’n situatie bevindt, moet je wel zelf de moeite doen. De opgave om bezwaar te maken ligt dus bij degene die hinder ondervindt en wie hinder ondervindt is degene die al in een moeilijke positie zit. Ik bedoel, wie bedenkt er nu dat degene die te kampen heeft met een onveilige thuissituatie op grond daarvan tegen proctoring in het geweer moet komen?
Zo houdt een proces dat gelijke behandeling moet bevorderen, vaak evenzeer ongelijkheid in stand
Dit past echter binnen een bekende dynamiek, zo leert het werk van Sara Ahmed ons. Zij doet onderzoek naar de ervaringen van mensen, vooral vrouwen, die aan de universiteit een klacht hebben ingediend (of dat probeerden) over seksuele intimidatie, racisme of ontoegankelijkheid voor mindervaliden. De last voor het aankaarten van een situatie van ongelijkheid, machtsmisbruik of erger blijkt steeds weer te liggen bij degene die vanwege dezelfde situatie al de zwakkere partij is. De organisatie klopt zich op de borst met rapporten en interne onderzoeken, flowcharts die vertellen welke acties de bezwaarmaker moet ondernemen, er zijn klachtenfunctionarissen en diversity officers, maar het echte werk moet worden gedaan door degene die, naar je mag aannemen om goede redenen, onrecht aan te kaarten heeft. Zo houdt een proces dat gelijke behandeling moet bevorderen, vaak evenzeer ongelijkheid in stand.
De standaard is privacyschending
In het geval van privacyschending ligt – anders dan bij onheuse bejegening of een beschuldiging van intimidatie misschien het geval is – een simpele verbetering voor de hand, namelijk het veranderen van de default. De filosoof Carissa Véliz wijst in haar recente boek Privacy is Power (voorpublicatie) herhaaldelijk op het belang van standaardinstellingen. ‘Defaults matter.’ In de meeste gevallen is de standaard duidelijk, zelfs al volgt die de wet: dataverzameling, tracking en dus surveillance. En op sommige opleidingen: massale tentamens gericht op feitenkennis, waarbij spieken loont.
Hoe normaal moeten we het vinden dat kamers gefilmd, typgedrag geanalyseerd en ogen gemonitord worden?
Onderwijsinstellingen worden weliswaar geacht te onderzoeken of andere toetsvormen zoals openboektentamens of essays mogelijk zijn, maar dat is te vrijblijvend. De default verandert daarmee niet. Het is soms lastig om je voor te stellen dat de standaard anders kan – juist zijn status als ‘normaal’ verhindert dat. Maar hoe normaal moeten we het vinden dat kamers gefilmd, typgedrag geanalyseerd en ogen gemonitord worden, en dat degene die – om wat voor reden ook – daar niet aan wil meedoen, ook degene is die moeite moet doen om zijn recht daarop aan te spreken? Het is mogelijk om defaults te veranderen, hoe onmogelijk het mag lijken. Denk maar aan de tijd, niet zo lang geleden, dat het ondenkbaar was dat iemand zou betalen voor internetcontent die ook gratis te downloaden was.
Een andere standaard zou ook de onrechtvaardige dynamiek van het bezwaarmaken veranderen. Als privacybescherming in plaats van -schending het uitgangspunt zou zijn, zouden bezwaren niet (zo vaak) voorkomen en zou de last om ze aan te kaarten niet bij de zwakkere partij liggen. Privacybescherming zorgt voor een herverdeling van de macht. Carissa Véliz beschrijft degenen die onze privacy schenden – vooral om data te kunnen verzamelen – als aanvallers, tegenover wie de verdediger altijd in de zwakkere positie zit. De default is maar al te vaak ingesteld in het voordeel van wie de meeste macht bezit, zelfs als er regelingen en procedures zijn die de verdedigers moeten helpen.
Wat privacy beschermt, is in die zin eerder gelijkheid dan individualiteit, al doet het woord misschien anders vermoeden
Als privacyschending de default is, worden bezwaren daartegen geïndividualiseerd. Tegelijkertijd verandert inbreuk op privacy een groep gelijken in een verzameling individuen. Wat privacy beschermt, is in die zin eerder gelijkheid dan individualiteit, al doet het woord misschien anders vermoeden.
Privacy is een collectieve zaak
Dit voorjaar schreef Maxim Februari in een column in NRC Handelsblad dat ‘privacy’ als begrip de associatie oproept met ‘privé’ en dus impliceert dat privacybescherming een private zaak is, een luxe zelfs. In plaats van privacy kunnen we het beter over data hebben, stelt hij. Nu moeten we het daar ook over hebben, maar ik vind het zonde om het een in te ruilen voor het ander.
Je bent wel alleen, maar de kamer is niet meer voor jezelf
Dat de associatie van privacy met ‘persoonlijke kwesties’ of een ‘luxe privé-leventje’ onverdiend is, maakt juist een casus als proctoring op haast poëtische wijze duidelijk. De blik van buiten naar binnen, gemedieerd door commerciële software, camera’s en schermen, gaat letterlijk een drempel over. Zowel de machinale blik van het algoritme als de ogen van de docent onderwerpen de privéruimte van de student aan een onderzoek. De blik gaat maar één kant op en is op zoek naar ongeoorloofde zaken. Met zorg een achtergrond kiezen of een blurring effect gebruiken, kan bij vergaderingen of lessen nog wel, maar aan de omgevingsscan bij proctoring mag niets ontsnappen: tafel, bed, kast, wastafel, alles moet in beeld komen. Lijkt nabijheid in het digitale domein meestal verloren te gaan, op andere momenten kom je dichterbij dan ooit. En opnieuw: zij met de minste luxe hebben daar het meest onder te lijden.
De surveillerende blik individualiseert, daar waar gelijkheid zou moeten bestaan. Privacy – je privéruimte kunnen beschermen tegen indringers en pottenkijkers – is juist een collectieve zaak. Elke gefilmde kamer vertelt iets over de kamer van een ander; elke blik op die kamer ziet alle andere kamers erin weerspiegeld. Je bent wel alleen, maar de kamer is niet meer voor jezelf. Dat geldt trouwens ook voor data, die op zichzelf niets waard zijn maar alleen in groter verband kunnen spreken. Mijn data als bewoner van dit huis, op deze plek, in deze tijd, beïnvloeden de data van al mijn buurtgenoten.
Degenen die onze privacy schenden, zijn aanvallers, tegenover wie de verdediger altijd in de zwakkere positie zit
Sara Ahmed concludeert in haar onderzoek dat collectieve actie voorwaarde is om de individualisering van een probleem te doorbreken. Zeker bij klachten waarbij sprake is van machtsrelaties en waarin reputaties op het spel staan, kan het terugbrengen van de zaak tot een privéaangelegenheid een tactiek zijn om de schade voor het instituut te beperken. Degene die verkeerd behandeld is, wordt geïsoleerd en contact met lotgenoten wordt actief ontmoedigd, juist omdat collectiviteit machtsrelaties kan veranderen. De bezwaarmaker die alleen komt te staan, heeft op den duur de puf niet meer om een procedure door te zetten.
Denken vanuit waarde in plaats van wantrouwen
Dit vertelt ons ook dat collectieve actie vanuit solidariteit de weg vooruit is. Het ultieme doel daarvan zou moeten zijn om de default te veranderen. En daarmee kom ik tot het laatste punt dat proctoring verheldert: de standaardinstelling is wantrouwen. En zeker in het onderwijs is de vraag naar waarden en het wereldbeeld van waaruit geopereerd wordt, er niet één om zomaar terzijde te schuiven.
Ga je bij twijfel uit van fraude en slechte bedoelingen? En als dat de standaard is, zal dat dan ook niet je deel zijn? Welk doel dient de technologie eigenlijk? Ja, het tegengaan van fraude – maar hoe verhoudt dat zich tot het grotere doel van onderwijs? (Vul voor ‘onderwijs’ naar believen andere termen in, bijvoorbeeld ‘Belastingdienst’, ‘deurbel’ of ‘auto’, surveillance-software is immers overal.)
Hoezeer we ook hechten aan privacy, we willen allemaal gezien worden. In een gesprek over digitaal onderwijs in coronatijd wijst filosoof Hester IJsseling op het belang van een ander type blik dan de controlerende. Juist in een online omgeving is inzoomen nodig, niet om te speuren naar bewijslast, maar om ‘op bezoek’ te gaan in de situatie van de ander. Ook nu verlangen we naar nabijheid, naar iemand die bij ons binnenkomt. Iemand die oprecht nieuwsgierig is naar wie we zijn.
De honor pledge heeft een positieve default, behandelt iedereen als gelijke en legt niemand de last van het bezwaarmaken op
Wat kan dat betekenen in de context van tentamenfraude en proctoring? Behalve de keus voor andere vormen van toetsen, zijn er ook voor massale online tentamens creatieve, niet-technocratische oplossingen te bedenken, die een andere blik centraal stellen.
Een voorbeeld: ‘Just How Dishonest Are Most Students?’ vraagt een filosofieprofessor in een stuk in The New York Times over de zogenaamde honor pledge, waarmee studenten voorafgaand aan een toets plechtig beloven niet te spieken. Ik geef toe dat dit wat weeïg klinkt, maar de resultaten blijken niet slechter te zijn dan bij surveillance-software. Belangrijk is dat de belofte vertrekt vanuit eerlijkheid én die waarde als doel heeft. Ze vormt wellicht een antwoord op het dilemma, opgetekend in de Volkskrant: ‘De studenten van nu zijn de dokters, advocaten en managers van morgen. Ze zullen in hun carrière op allerlei manieren worden blootgesteld aan verleidingen om te sjoemelen, zonder dat ze daarbij op de vingers worden gekeken door zoemende camera’s. Hoe leer je studenten uit eigen beweging het eerlijke pad te kiezen?’
De honor pledge heeft een positieve standaardinstelling, behandelt iedereen als gelijke en legt niemand de last van het bezwaarmaken op. De belofte is tegelijk collectief en individueel. Maar het mooiste ervan vind ik de andere blik die ze oproept. De blik naar binnen.