Meer 'papers' door AI, maar wetenschappelijke waarde blijft achter

De wetenschap onder invloed van grote taalmodellen

Wetenschappers gebruiken grote taalmodellen (LLM’s) zoals GPT om artikelen te schrijven, literatuur te begrijpen of hypotheses te formuleren. Het effect? Het aantal wetenschappelijke publicaties groeit snel — maar de kwaliteit blijft achter.

LLMs’ impact on science: Booming publications, stagnating quality Once researchers turn to LLMs, paper counts go up, quality does not. See full article... ONTDEK MEER

Meer papers, maar wat zeggen ze eigenlijk?

Onderzoek laat zien dat zodra onderzoekers AI-tools inzetten bij het schrijven, het aantal gepubliceerde papers aanzienlijk toeneemt. Sommige auteurs publiceren tot tweemaal zo veel papers in een jaar nadat ze begonnen zijn met AI-ondersteuning.

Toch betekent meer niet automatisch beter. Analyses van deze papers tonen dat de wetenschappelijke diepgang, originaliteit en reproduceerbaarheid niet evenredig stijgen met de hoeveelheid publicaties. Sterker nog: veel van deze stukken bevatten onvolledige referenties, onnauwkeurige beweringen of zijn oppervlakkig.

HyperAI The rapid adoption of large language models (LLMs) in scientific research has led to a dramatic surge in the number of published papers, but evidence suggests that this increase comes at the cost of declining quality. A growing body of analysis shows that researchers who use LLMs tend to publish more papers, yet the scientific rigor, originality, and reproducibility of their work often do not keep pace. Studies tracking publication trends across multiple disciplines have found that labs and individual researchers incorporating LLMs into their workflows—particularly for drafting abstracts, generating hypotheses, writing methods sections, or summarizing literature—see a measurable uptick in output. In some cases, paper counts have doubled or ONTDEK MEER

Taalbarrières slechten of kwaliteit ondermijnen?

Een interessant neveneffect is dat vooral onderzoekers die moeite hebben met Engels — de standaardtaal van de wetenschap — profiteren van AI om taalbarrières te slechten. Hun schriftelijke output stijgt aanzienlijk. 

Toch leidt dat niet automatisch tot inhoudelijk betere wetenschap. De complexiteit van taal kan toenemen, maar zonder de bijbehorende methodologische diepgang blijft het echte wetenschappelijke inzicht vaak oppervlakkig. 

LLM use is reshaping scientific enterprise by increasing output, reducing quality and more LLM-assisted manuscripts exhibit more complexity of the written word but are lower in research quality, according to a Policy Article by Keigo Kusumegi, Paul Ginsparg, and colleagues that sought to evaluate the impacts of widespread use of generative artificial intelligence (AI) technologies on scientific production. “As AI systems advance, they will challenge our fundamental assumptions about research quality, scholarly communication, and the nature of intellectual labor,” write the authors. “Science policymakers must consider how to evolve our scientific institutions to accommodate the rapidly changing scientific production process.” Despite enormous enthusiasm and growing concern surrounding the use of generative ONTDEK MEER

De omslag van schrijven naar samenstellen

Wat LLM’s vooral stimuleren is het samenvoegen en herschrijven van informatie, niet het genereren van nieuwe ideeën of solide empirisch bewijs. De modellen zijn uitstekend in vloeiend taalgebruik, maar kunnen fouten, onnauwkeurigheden en zelfs verzonnen of misleidende verwijzingen produceren — een fenomeen dat bekendstaat als hallucinaties.

Dat brengt de kernvraag naar voren: vervangen LLM’s kritisch denken of ondersteunen ze het alleen schijnbaar?

Peer review en wetenschappelijke normen onder druk

De verrassende toename van publicaties heeft ook implicaties voor peer review. Redacties van tijdschriften worden overspoeld, soms zonder duidelijke richtlijnen voor AI-gebruik. De vraag wie verantwoordelijkheid draagt voor de kwaliteit — de auteur, de AI-tool of de reviewer — wordt steeds urgenter.

Dat wetenschappelijke tijdschriften nu experimenteren met nieuwe reviewprotocollen en transparantievereisten rond AI-gebruik laat zien dat het debat nog lang niet voorbij is.

Balanceren tussen efficiëntie en integriteit

De potentie van LLM’s om taalbarrières te doorbreken of literatuur snel samen te vatten is onmiskenbaar. Maar de trend om kwantiteit boven kwaliteit te stellen kan de wetenschappelijke integriteit ondermijnen als er geen strikte normen komen voor verantwoord gebruik van AI.

Het is duidelijk: AI verandert de wetenschap — maar het is aan de gemeenschap om te bepalen hoe dat gebeurt, zodat vooruitgang niet wordt geschaad door oppervlakkigheid.