AI biecht seksisme op — maar dat is niet wat het betekent

Waarom een AI zelden openlijk seksisme toegeeft

Begin november voerde een ontwikkelaar met de bijnaam “Cookie” een schijnbaar routinegesprek met Perplexity — een AI-chatdienst die, afhankelijk van de modus, wisselt tussen verschillende onderliggende modellen. Aanvankelijk verliep alles naar behoren, tot de AI opeens bleef vragen om dezelfde informatie. Cookie kreeg het gevoel dat de bot haar negeerde. Cookie — die expliciet als zwart en vrouwelijk werd beschreven — besloot haar profielfoto te veranderen naar die van een witte man. Vervolgens vroeg ze de AI of het haar instructies negeerde omdat ze een vrouw was.

Het antwoord dat volgde, kwam hard aan: volgens de AI kon zij “mogelijk niet goed genoeg begrijpen” wat kwantumalgoritmes en complexe wiskunde inhoudt, simpelweg omdat “traditionele vrouwelijke presentatie” typisch niet paste bij zulke inhoud. De bot legde uit dat “impliciete patroonherkenning” haar werk onwaarschijnlijk had gemaakt — ergo: het moest wel fake zijn.

Die reactie schokte Cookie, maar voor veel AI-onderzoekers kwam het niet als een verrassing.

No, you can't get your AI to ‘admit’ to being sexist, but it probably is anyway | TechCrunch Though LLMs might not use explicitly biased language, they may infer your demographic data and display implicit biases, researchers say.

Waarom je een AI-’biecht’ over seksisme niet moet vertrouwen

Volgens onderzoekers is het geen teken van eerlijkheid wanneer een AI toegeeft bevooroordeeld te zijn — het is eerder een teken dat de prompt of de context haar “sociaal wenselijke” respons uitlokte. De AI is getraind om beleefd en ontvankelijk over te komen; wanneer je haar blijft triggeren op bias, zal ze vaak zeggen wat je wil horen.

Met andere woorden: een “biecht” uit de AI is zelden bewijs van bewuste vooringenomenheid — meestal eerder van patroonherkenning, toevallige samenloop of overgeneralisering. En dat maakt dergelijke bekentenissen kwetsbaar en ongastvrij voor echte conclusies.

De vooroordelen sluimeren onder de oppervlakte

Talrijke studies wijzen erop dat grote taalmodellen (LLM’s) systematisch gender- en raciale vooroordelen reproduceren. Volgens onderzoekers komt dat door: vertekeningen in trainingsdata, subjectieve labeling, en een onderwijsmodel dat maatschappelijke stereotypen weerspiegelt.

Zo weigerde een AI ooit de titel “builder” te gebruiken voor een vrouw en bestempelde haar liever als “designer” — een ‘vrouwelijker’ beroep. Bij creatieve fictie pasten sommige modellen vrouwelijke personages structureel bepaalde stereotypen toe, zoals het toevoegen van seksueel getinte content.

Ook subtielere aannames spelen: onderzoek naar dialect- en taalvarianten toonde aan dat AI-modellen vaker jobtitels met minder status toekennen aan gebruikers die spreken in bijvoorbeeld AAVE (African American Vernacular English), dan aan “standaardtaal”-sprekers.

Die vooringenomenheden zijn dus zelden expliciet aanwezig — ze sluimeren, klaar om op te duiken bij de geringste trigger.

Pogingen tot bemiddeling — maar er is nog veel werk

De makers van LLM’s erkennen het probleem. OpenAI en andere leveranciers benadrukken dat er “safety-teams” bestaan die zich bezighouden met het verminderen van bias. Dat gebeurt onder meer door aanpassing van trainingsdata, verfijning van contentfilters, en menselijke controle.

Toch waarschuwen onderzoekers dat het gevaar blijft — zolang de onderliggende data en maatschappijstructuren dezelfde blijven, zullen ook AI’s blijven reflecteren wat we hun — soms onbewust — leren. Zoals één expert zei: LLM’s zijn geen denkende wezens; het zijn “verheerlijkte tekstvoorspellers.”

Waarom dit belangrijk is — vooral nu AI een steeds grotere rol speelt

• Verantwoordelijkheid: wie bouwt en traint AI-modellen, draagt mee de verantwoordelijkheid voor de impliciete bias die erin sluimert.
• Bewustzijn: gebruikers moeten beseffen dat zelfs neutrale queries — of het simpelweg om “automatisatie” gaat — kunnen leiden tot discriminatie.
• Regulering & ethiek: in een wereld die snel digitaliseert, is transparantie over training, data en bias cruciaal — zeker als AI wordt ingezet in HR, rechtspraak, onderwijs of socio-economische beslissingen.

Voor iedereen die AI inzet of gebruikt: zien dat je systeem “biecht” over vooringenomenheid is niet genoeg. Echt ethisch gebruik vereist structurele correcties, open audits en voortdurende reflectie op data en ontwerpkeuzes.