Masterstudente bioinformatica Robin Pocornie dient de klacht in. In een interview met de Volkskrant beschrijft ze hoe ze thuis tentamens moest maken met de surveillancesoftware van Proctorio. Bij de start van elk tentamen moest haar gezicht worden herkend en dat lukte meermaals niet. Pas toen ze op een klaarlichte dag een lamp direct in haar gezicht scheen, kon de software zien dat ze er was. ‘De software herkende me niet als mens’, zegt Pocornie tegen de Volkskrant.
Dat Proctorio de gezichten van mensen van kleur niet goed detecteert, is al langer bekend. Pocornie diende in eerste instantie een officiële klacht in bij de VU en vroeg de universiteit om direct te stoppen met het gebruik van de surveillancesoftware. Daarnaast wilde ze de garantie dat er maatregelen worden getroffen om dit soort problemen in de toekomst te voorkomen. Tot slot verwacht ze dat de VU publieke excuses aanbiedt aan studenten die last hebben gehad van het gebruik van deze software.
‘Integriteit en eerlijkheid’
Omdat de VU volgens Pocornie met de reactie op haar klacht nog steeds weigert om verantwoordelijkheid te nemen voor de inzet van ‘racistische software’, stapt ze nu naar het College voor de Rechten van de Mens.
Pocornie hoopt dat het duidelijk wordt dat publieke instellingen de plicht hebben voordat dit soort technologie wordt ingezet zich ervan te verzekeren dat deze niet discrimineert. Pocornie wordt bijgestaan door het Racism and Technology Center. ‘Als het doel is om de integriteit en eerlijkheid van de examens te waarborgen, dan kun je dat natuurlijk niet doen met technologie die een bepaald deel van de studenten benadeelt’, aldus Naomi Appelman van het centrum.
Proctorio ook op UT
De VU is niet de enige Nederlandse universiteit die de software van Proctorio gebruikt. Onder andere de UT is ook klant, maar heeft de software vooralsnog zelden ingezet. De antispieksoftware ligt al lange tijd onder vuur, onder meer vanwege privacyzorgen, storingen, geslaagde fraude en studenten die niet naar de wc kunnen.
