Vertrouwen op AI? Gevaarlijk bij serieuze gezondheidsvragen

Google’s kunstmatige intelligentie probeert zoekopdrachten te beantwoorden met automatische samenvattingen bovenaan de resultaten — de zogenaamde AI Overviews. Maar recent onderzoek van The Guardian toont aan dat deze AI-samenvattingen bij gezondheidsthema’s niet alleen onnauwkeurig zijn, ze kunnen zelfs levensgevaarlijke gevolgen hebben.

Wanneer AI het fout heeft: examples die schrikken

Onder de gevonden fouten waren aanbevelingen die door medische experts als "echt gevaarlijk" worden bestempeld. Zo adviseerde de AI mensen met alvleesklierkanker om vetrijke voeding te vermijden — precies wat veel patiënten juist nodig hebben om genoeg calorieën binnen te krijgen tijdens behandeling.

Google AI Overviews put people at risk of harm with misleading health advice Exclusive: Inaccurate information presented in summaries, Guardian investigation finds

Ook bij leverfunctietests werden normale waarden verkeerd gepresenteerd, zonder rekening te houden met factoren zoals leeftijd, geslacht of etniciteit. Dat kan patiënten met ernstige leverproblemen onterecht geruststellen.

Daarnaast kreeg een zoekopdracht rond vaginale kanker onjuist advies: een Pap-test werd genoemd als diagnosetest, terwijl dit niet klopt — en dat kan mensen misleiden symptomische zorg te negeren. 

Niet alleen fysieke – maar ook mentale misinformatie

Het probleem blijft niet beperkt tot fysieke gezondheid. Samenvattingen over psychische aandoeningen, zoals psychose of eetstoornissen, bevatten volgens liefdadigheidsorganisaties soms zeer gevaarlijke, oversimplistische of zelfs stigmatiserende informatie.

Zorgverleners waarschuwen: zoek altijd professioneel advies

Gezondheidsinstellingen en patiëntenverenigingen waarschuwen dat mensen vaak hun toevlucht nemen tot internet bij zorgen of symptomen. Wanneer ze vervolgens foutieve AI-informatie voorgeschoteld krijgen, kan dat leiden tot verkeerde beslissingen zoals het uitstellen van medische hulp.

Google verdedigt, maar erkent kwaliteitsproblemen

Google zegt dat de meeste AI-overzichten betrouwbaar zijn en dat ze gebaseerd zijn op erkende bronnen, en vergelijkt de nauwkeurigheid met oudere zoekfuncties zoals uitgelichte fragmenten. Het bedrijf erkent echter dat de kwaliteit soms tekortschiet en werkt doorlopend aan verbeteringen.

Waarom dit belangrijk is

In een tijd waarin gebruikers massaal AI-gestuurde informatie vertrouwen, brengen zulke fouten de kern van digitale gezondheidsinformatie in gevaar. De automatische rangschikking en zichtbaarheid van AI-samenvattingen versterken het gezag dat gebruikers eraan toekennen — zelfs als de inhoud incorrect is.

Experts roepen op tot strengere controles, meer transparantie over bronnen, en duidelijke disclaimers bij medische AI-samenvattingen; tot die tijd blijft het advies simpel: vertrouw niet blind op een automatische samenvatting, maar zoek professioneel medisch advies.