De ontwikkeling van AI-modellen draait al lang niet meer uitsluitend om de vraag welk model het grootste of krachtigste is. Minstens zo belangrijk wordt de keuze van de juiste architectuur voor de juiste toepassing. Met Gemma 4 trekt Google die gedachte opvallend ver door. De nieuwe familie bestaat uit vijf modelgroottes, verdeeld over vier verschillende architecturen.
Het resultaat is geen klassiek rijtje van klein naar groot, maar eerder een gereedschapskist. Sommige modellen zijn ontworpen voor efficiëntie, andere voor gespecialiseerde rekentaken en het grootste model mikt vooral op maximale capaciteit.
Vijf modellen, vier architecturen
Google DeepMind presenteert Gemma 4 als een familie van multimodale open modellen. Dat betekent dat de modellen niet uitsluitend met tekst kunnen werken, maar ontworpen zijn om verschillende soorten informatie te verwerken.
Opvallend is vooral hoeveel variatie Google binnen één modelfamilie stopt. In plaats van dezelfde architectuur telkens groter te maken, experimenteert het bedrijf met verschillende technische benaderingen.
Dat begint bij de compacte E2B- en E4B-modellen. Deze modellen gebruiken embeddings per laag, een architecturale keuze die erop gericht is informatie efficiënter door het netwerk te laten bewegen. Daarmee richt Google zich nadrukkelijk op situaties waarin rekenkracht, snelheid en efficiëntie minstens zo belangrijk zijn als pure modelomvang.
Een 12B-model zonder encoder
Een volgende stap binnen de familie is het 12B-model. Google kiest daar voor een encoder-vrije architectuur.
Dat verschil is technisch, maar heeft een bredere betekenis. Gemma 4 laat daarmee zien dat Google niet langer noodzakelijk één vaste blauwdruk wil gebruiken voor ieder formaat. De architectuur kan veranderen naargelang de schaal en het beoogde gebruik van het model.
Voor ontwikkelaars wordt daardoor niet alleen de vraag relevant hoeveel parameters een model heeft. Ook de manier waarop het model intern is opgebouwd kan bepalen welk Gemma-model het meest geschikt is voor een specifieke toepassing.
Mixture of experts bij 26 miljard parameters
Nog interessanter wordt het bij het 26B-model. Daar kiest Google voor een zogenoemde mixture of experts-architectuur.
Bij zo'n systeem hoeft niet noodzakelijk het volledige netwerk voor iedere opdracht op dezelfde manier actief te zijn. Het model beschikt over verschillende gespecialiseerde onderdelen, de experts, en kan afhankelijk van de taak bepaalde delen van het netwerk inzetten.
Het idee daarachter is belangrijk voor de volgende generatie AI. Meer intelligentie hoeft immers niet automatisch te betekenen dat bij iedere prompt steeds meer rekenkracht moet worden gebruikt. Slimmere routering binnen een model kan een alternatief bieden voor simpelweg steeds grotere dense modellen.
Het 31B-model kiest juist voor dense
Aan de bovenkant van de Gemma 4-familie staat vervolgens een model van 31 miljard parameters. Opmerkelijk genoeg keert Google daar terug naar een dense architectuur.
Daarbij worden de parameters veel directer als één geheel ingezet. Volgens de positionering van Google is dit het meest capabele model binnen de Gemma 4-reeks.
Die keuze maakt de familie technologisch interessant. Google presenteert mixture of experts dus niet simpelweg als de opvolger van dense modellen. Beide architecturen krijgen een plaats binnen dezelfde generatie, afhankelijk van het evenwicht tussen capaciteit, efficiëntie en toepassing.
Niet langer één model voor alles
Daarmee vertelt Gemma 4 eigenlijk een groter verhaal over de richting waarin generatieve AI evolueert. De industrie beweegt geleidelijk weg van het idee dat organisaties altijd het grootste beschikbare model nodig hebben.
Een compacte toepassing op een apparaat stelt immers andere eisen dan een complexe multimodale AI-assistent in de cloud. Een gespecialiseerde bedrijfsworkflow vraagt mogelijk opnieuw een andere combinatie van snelheid, geheugen, kwaliteit en rekencapaciteit.
Gemma 4 maakt van die afweging een expliciet onderdeel van de modelfamilie zelf.
AI wordt steeds meer een architectuurkeuze
Voor ontwikkelaars kan dat uiteindelijk belangrijker worden dan de zoveelste sprong in het aantal parameters. De centrale vraag verschuift van “welk model is het grootst?” naar “welke architectuur past het best bij deze taak?”
Met vijf modelgroottes en vier architecturen probeert Google die keuze breder te maken. Van efficiënte E2B- en E4B-modellen en een encoder-vrije 12B-variant tot een 26B mixture-of-experts-model en een krachtige dense 31B-versie: Gemma 4 wordt daarmee minder één AI-model en meer een familie van bouwstenen.
En precies daarin kan de belangrijkste ontwikkeling zitten. De volgende fase van AI hoeft niet alleen te draaien om grotere modellen. Ze kan vooral draaien om slimmer kiezen welk deel van de beschikbare intelligentie voor welke taak nodig is.
