Wanneer AI je gezicht niet herkent: De stille uitsluiting

De stille uitsluiting achter algoritmes

Autumn Gardiner ging naar het rijbewijsbureau om haar naam na haar huwelijk aan te passen. Maar toen het moment kwam om een nieuwe foto te nemen, werd het systeem keer op keer geweigerd. Haar gezicht werd niet herkend. Voor Gardiner, die leeft met het zeldzame Freeman-Sheldon-syndroom, voelde het alsof de machine haar vertelde: “Jij hebt geen gezicht.”

Haar ervaring is echter geen op zichzelf staand geval. Naar schatting 100 miljoen mensen wereldwijd leven met gezichtsverschillen — aangeboren, ontstaan door ziekte, letsel of genetische afwijkingen. In een tijd waarin gezichtsherkenning en identiteitsverificatie steeds meer ingebed raken in onze dagelijkse levens — van bankzaken tot overheidsdiensten — stuiten velen op een harde realiteit: de technologie is niet ontworpen voor hen. 

Waarom de algoritmes falen

De kern van het probleem ligt in de datasets waarop de gezichtsherkenningssystemen worden getraind: vooral klassieke, “normale” gezichten domineren de monstersets. Afwijkende gelaatstrekken — bijvoorbeeld door littekens, asymmetrie, aangeboren afwijkingen — worden zelden meegenomen. 

Wanneer een systeem een nieuwe foto moet matchen, meet het vaak afstanden tussen ooghoeken, mondhoeken, kinlijn, verhoudingen, etc. Als de verhoudingen afwijken van de “gemiddelde norm”, wordt de afkeuring snel uitgesproken. Mensen met littekens, aangezichtsafwijkingen of ongewone gezichtsstructuren lopen het risico om misdiagnosticeerd te worden — of simpelweg geen toegang te krijgen. 

De menselijke tol: uitsluiting en vernedering

Voor degenen die al jaren worstelen met stigmatisering, is deze technologische blindheid extra pijnlijk. Ze ervaren concrete barrières bij het vernieuwen van officiële documenten, het openen van financiële accounts, het passeren van grenscontrole of zelfs toegang te krijgen tot sociale media-filters. 

Zo vertelt Crystal Hodges — die leeft met het Sturge-Weber-syndroom en een opvallende wijnvlek op haar gezicht heeft — dat ze talloze pogingen deed om via gezichtverificatie haar kredietscore op te vragen. Alle pogingen faalden, ondanks verschillende belichtingstechnieken.

Wanneer zulke systemen falen, is er meestal weinig menselijke ondersteuning. De technologische bureaucratie laat mensen achter in een labyrint zonder heldere uitweg. Noor Al-Khaled, die leeft met een zeldzame craniofaciale afwijking, slaagde er maandenlang niet in een online account te openen bij de Amerikaanse Social Security Agency.

Pleidooien en oplossingen

Organisaties als Face Equality International (FEI) dringen aan op inclusiviteit: alternatieve verificatiemethoden moeten vanzelfsprekend worden ingebouwd, niet als zeldzame uitzondering. FEI roept technologische bedrijven op om mensen met gezichtsverschillen van bij de ontwikkeling te betrekken — zodat de systemen vanaf het begin rekening houden met diversiteit in uiterlijk. 

Sommige overheidsinstanties beweren dat alternatieven al bestaan. Zo zegt een Amerikaanse instantie dat gezichtverificatie slechts één van de opties is, maar het is onduidelijk hoe vaak en effectief die alternatieven worden aangeboden.

Autumn Gardiner kreeg uiteindelijk handmatig override van het systeem bij het DMV, nadat ze haar situatie toelichtte. Maar dat is geen structurele oplossing — het is een uitzonderingsgeval.

Een test voor onze technologie en samenleving

Deze gevallen fungeren als een ijkpunt: als deze geavanceerde technologie al faalt bij mensen met gezichtsverschillen, wat zegt dat dan over de betrouwbaarheid voor de rest? Greta Byrum, oprichter van adviesbureau Present Moment Enterprises, waarschuwt dat we een situatie creëren waarin iedereen met afwijkingen van de norm stilzwijgend wordt uitgesloten. 

De uitdaging is niet enkel technisch — het is een morele en maatschappelijke kwestie. Inclusiviteit moet geen bijvangst zijn, maar een kernprincipe worden.