Wanneer AI samenvat, hapt de nuance weg: ChatGPT onder de loep

Een recente studie door wetenschapsjournalisten legt bloot dat ChatGPT – ondanks zijn kracht – moeite heeft met het juist samenvatten van wetenschappelijke artikelen. Hoewel het model steeds vaker wordt ingezet als hulpmiddel om complexe onderzoeken toegankelijk te maken, blijken er significante problemen te zijn: onnauwkeurigheden, overdrijving, en het wegvallen van essentiële details.

Waarom journalisten zich zorgen maken

De American Association for the Advancement of Science (AAAS), via hun SciPak-team, deed een jaar lang onderzoek naar hoe goed ChatGPT in staat is om SciPak-stijl samenvattingen te maken – dit zijn korte verslagen die belangrijke elementen als achtergrond, methodes, context en implicaties bevatten, bedoeld voor wetenschappers en journalisten die snel op de hoogte willen zijn.

Wat zij ontdekten:

• ChatGPT laat vaak nuance vallen; beperkingen van onderzoek, betrouwbaarheid van data en methodologische waarschuwingen worden niet altijd of onvoldoende vermeld.
• De taal neigt naar overdrijving; woorden als “groundbreaking” worden te makkelijk gebruikt.
• De beoordelingen door menselijke reviewers via schalen voor relevantie en feitelijke correctheid zijn over het algemeen laag.

De implicaties: niet zomaar inzetten zonder controle

Gezien deze tekortkomingen waarschuwen de journalisten en onderzoekers dat het gebruik van ChatGPT voor wetenschappelijke samenvattingen risico’s met zich meebrengt:

1. Vertrouwen kan beschadigd raken als lezers samenvattingen geloven die essentiële beperkingen of context missen.
2. Beleidsmaatregelen binnen wetenschappelijke communicatie zouden moeten voorschrijven dat AI-samenvattingen altijd door mensen worden geverifieerd.
3. Modelontwikkeling moet zich richten op precisie, het herkennen van onzekerheden, en het vermijden van overgeneralisaties.

Waar het misgaat: detailverlies en nuance-achterstand

Een paar concrete voorbeelden van de zwaktes:

• Bij het samenvatten van papers verward ChatGPT vaak correlatie met causaal verband.
• Kritische details zoals dosering, beperkingen van experimenten of specifieke methodologische randvoorwaarden worden weggelaten, waardoor de indruk ontstaat dat een onderzoeksresultaat algemener toepasbaar is dan het in werkelijkheid is.
• Nieuwere modellen lijken in sommige gevallen slechter te presteren dan oudere versies op het gebied van generalisatie en accuratesse wanneer “precisie” wordt gevraagd.

Generalization Bias in Large Language Model Summarization of Scientific Research Abstract page for arXiv paper 2504.00025: Generalization Bias in Large Language Model Summarization of Scientific Research

Vooruitblik: verbetering mogelijk, maar geen vervanging

Hoewel de resultaten tot nu toe kritisch zijn, betekent het niet dat ChatGPT geen waarde toevoegt. De onderzoekers erkennen dat het model bruikbaar kan zijn als ondersteunend hulpmiddel — bijvoorbeeld om een eerste schets te maken, of om inhoudelijk voorbereid te zijn op diepere lezing van een paper. Maar:

• Menselijke redacteurs of journalisten blijven nodig om te corrigeren en te verifiëren.
• Trainingsdata, prompts en evaluatiecriteria moeten verder verfijnd worden.
• Transparantie over de beperkingen van AI-gegenereerde samenvattingen is cruciaal, zeker in vakgebieden waar details essentieel zijn (geneeskunde, gezondheidsbeleid, etc.).

ChatGPT laat zien dat de technologie ver is gekomen in haar vermogen om wetenschappelijke inhoud samen te vatten. Maar de studie van de AAAS en andere onderzoekers maakt duidelijk dat het model nog niet toe is aan zelfstandig gebruik zonder grondige menselijke controle. Voorlopig kan het dienen als hulpmiddel, niet als vervanger van kritisch en deskundig leeswerk.