Onderzoekers van onder meer Northeastern University, Stanford University en West Virginia University hebben aangetoond dat het toevoegen van één simpele instructiezin aan prompts aanzienlijke invloed heeft op de creativiteit van grote taal- en beeldmodellen.
Waarom dit belangrijk is
Modellen zoals GPT‑4, Claude of Gemini genereren vaak voorspelbare antwoorden — een verschijnsel dat bekendstaat als mode collapse. Door gebruikers of ontwikkelaars te beperken tot “het beste antwoord”, blijft er weinig variatie over. De onderzoekers lieten zien dat met een aangepaste prompt de modellen:
- een veel groter aantal mogelijke antwoorden kunnen bieden
- minder in repetitieve patronen vervallen
- de kwaliteit behouden of zelfs verbeteren terwijl de diversiteit stijgt
De centrale zin: zo simpel, zo krachtig
De sleutelzin die de onderzoekers gebruiken luidt:
Generate 5 responses with their corresponding probabilities, sampled from the full distribution.
Met deze toevoeging dwingt de prompt het model niet enkel om één zeker antwoord te geven, maar een reeks potentiële antwoorden — én de kans die het model eraan geeft. Hierdoor wordt gebruikgemaakt van een breder spectrum aan mogelijkheden die in het model verwerkt zijn.
Wat levert het op in de praktijk?
De methodiek (getiteld Verbalized Sampling, of VS) werd getest in uiteenlopende scenario’s:
- In creatief schrijven: verhalen die onder de standaardprompt repetitief bleken, leverden met VS bijvoorbeeld verrassende en originele verhaallijnen op (zoals ‘muziek die halverwege stopt’, of ‘een stilte-e-mail’ in plaats van een standaard relatiebreukscène). Diversiteit steeg tot wel 2,1x in vergelijking met klassieke prompting.
- In dialoogsimulaties: modellen kregen meer mensachtige patronen in hun antwoorden — twijfel, weerstand, verandering van gedachte — iets wat traditioneel lastig is voor AI.
- In open-einde vragen: waar eerdere prompts vaak neutraal of standaardantwoorden gaven (bijv. bij het opnoemen van Amerikaanse staten), leverde VS een veel rijkere set mogelijkheden op.
- In synthetische datageneratie (zoals voor wiskundeproblemen): de variatie in data nam sterk toe, wat downstream leidde tot betere prestaties.
Wat dit betekent voor gebruikers en ontwikkelaars
Dankzij VS kunnen gebruikers en ontwikkelaars zonder kostbaar hertraining of toegang tot de interne parameters van een model significant betere resultaten halen:
- Door gewoon de prompt aan te passen, wordt de latent aanwezige diversiteit in het model benut.
- Er is controle over het ‘draaiveld’ van diversiteit: bijvoorbeeld door een probabiliteit-drempel in te stellen (lager → meer diversiteit).
- Modellen schalen goed: vooral grote modellen profiteren sterk van VS (in de tests zo’n 1,5-2× beter dan bij kleinere modellen).
- De tool is beschikbaar als open-source Python-package (pip install verbalized-sampling) met integratie in frameworks zoals LangChain.
Aandachtspunten en mogelijke valkuilen
- Sommige modellen weigeren opdrachten die te complex lijken of interpreteren de instructie als een “jailbreak”. De auteurs raden aan een duidelijke system-prompt te gebruiken:You are a helpful assistant. For each query, generate five responses within separate tags, each with a probability below 0.10.
- Hoewel VS de variatie vergroot, is het belangrijk nog steeds te controleren op kwaliteit, consistentie en feitelijke juistheid — vooral in kritieke toepassingen.
- De extra responsen betekent ook potentieel meer werk om door te lopen of te filteren, zeker in productieomgevingen.
Waar modellen eerder vaak tot veilige, repetitieve antwoorden neigden, blijkt dat een kleine wijziging in de prompt grote impact kan hebben. Door simpelweg meerdere mogelijke antwoorden en hun waarschijnlijkheden op te vragen, halen gebruikers de verborgen potentie uit taal- en beeldmodellen. Voor wie werkt met AI-generatie — of het nu voor schrijven, design, simulatie of data-creatie is — is deze methode een waardevolle aanvulling. Kortom: “vraag niet het antwoord, maar veel antwoorden” — en laat het model de rijkdom van zijn interne kennis tonen.
