Open AI-infrastructuur groeit uit tot de motor achter de volgende generatie kunstmatige intelligentie
Jarenlang werd open source vooral gezien als een hulpmiddel voor onderzoekers en hobbyisten. Vandaag vormt het echter de onzichtbare fundering onder een groot deel van de moderne AI-industrie. Achter veel populaire AI-toepassingen draait namelijk open-source software die modellen sneller, goedkoper en efficiënter laat werken.
Tijdens een gesprek tussen investeringsmaatschappij a16z en Simon Mo, medeoprichter en CEO van Inferact, wordt duidelijk waarom inferentie, het daadwerkelijk uitvoeren van AI-modellen, is uitgegroeid tot misschien wel de belangrijkste laag binnen de complete AI-stack. Volgens de deelnemers verschuift de concurrentiestrijd steeds minder naar het bouwen van de grootste modellen en juist naar de vraag wie AI het slimst en efficiëntst kan inzetten.
Van onderzoeksproject naar kritieke infrastructuur
Waar open-source AI enkele jaren geleden nog vooral werd gebruikt binnen universiteiten en onderzoeksinstellingen, is het inmiddels uitgegroeid tot essentiële infrastructuur voor bedrijven wereldwijd.
Een belangrijk voorbeeld hiervan is vLLM, een open-source inferentie-engine die speciaal werd ontwikkeld om grote taalmodellen veel efficiënter te laten draaien. Traditionele software bleek namelijk niet ontworpen voor de enorme hoeveelheid geheugenbeheer, parallelle berekeningen en tokenverwerking die moderne AI vereist. Wat begon als een technisch experiment groeide daardoor razendsnel uit tot een standaardcomponent binnen de AI-industrie.
Steeds meer organisaties bouwen hun AI-platform rondom dergelijke open-source technologie omdat deze sneller innoveert dan veel gesloten alternatieven.
Inferentie wordt belangrijker dan het model zelf
De aandacht binnen AI lag jarenlang vooral op het trainen van steeds grotere modellen. Maar zodra een model eenmaal is ontwikkeld, begint pas de echte uitdaging: miljoenen gebruikers tegelijkertijd snel en betaalbaar antwoorden geven. Dat proces heet inferentie. Volgens Simon Mo is juist daar tegenwoordig de grootste innovatie te vinden.
Een modern AI-model levert immers weinig waarde wanneer het:
- traag reageert;
- extreem veel GPU-capaciteit nodig heeft;
- hoge operationele kosten veroorzaakt;
- moeilijk schaalbaar is.
Daarom investeren bedrijven steeds meer in optimalisatie van inferentie in plaats van uitsluitend in modeltraining. De efficiëntie van de infrastructuur bepaalt uiteindelijk hoeveel AI een organisatie daadwerkelijk kan aanbieden.
Open-weight modellen veranderen de markt
Een van de opvallendste ontwikkelingen is de opkomst van open-weight modellen. Deze modellen publiceren hun getrainde gewichten, waardoor organisaties ze lokaal kunnen draaien, aanpassen en optimaliseren zonder volledig afhankelijk te zijn van één leverancier. Hierdoor krijgen bedrijven veel meer controle over:
- prestaties;
- privacy;
- beveiliging;
- kosten;
- schaalbaarheid.
Voor ondernemingen die gevoelige gegevens verwerken of hun AI volledig in eigen beheer willen houden, wordt dit steeds aantrekkelijker. De discussie verschuift daardoor van "welk model is het slimst?" naar "welk model past het beste binnen onze eigen infrastructuur?"
Waarom bedrijven weer controle willen
Steeds meer ondernemingen willen hun AI-systemen niet volledig laten draaien via externe API's. Daar zijn meerdere redenen voor. Bedrijven willen:
- voorspelbare kosten;
- volledige controle over data;
- eigen beveiligingsmaatregelen;
- minder afhankelijkheid van leveranciers;
- betere prestaties voor specifieke toepassingen.
Open-source inferentie maakt dat mogelijk. Organisaties kunnen hierdoor hun volledige AI-stack optimaliseren zonder voortdurend afhankelijk te zijn van commerciële aanbieders.
De economische kracht van open AI
Open AI betekent niet automatisch gratis AI. Het gesprek laat zien dat er inmiddels complete zakelijke modellen zijn ontstaan rondom open-weight software. Bedrijven verdienen bijvoorbeeld aan:
- professionele ondersteuning;
- cloudplatformen;
- enterprise-oplossingen;
- beheerde AI-diensten;
- gespecialiseerde optimalisaties.
Net zoals Linux ooit uitgroeide tot de basis van de cloudindustrie, lijkt open-source AI dezelfde ontwikkeling door te maken. De software is vrij beschikbaar, terwijl de commerciële waarde verschuift naar dienstverlening en infrastructuur.
Kimi K3 laat zien hoe snel open modellen verbeteren
Een opvallend voorbeeld uit het gesprek is Kimi K3. Volgens Simon Mo bewijzen modellen zoals Kimi K3 dat open AI steeds dichter in de buurt komt van de prestaties van gesloten commerciële modellen. Tegelijkertijd zijn de kosten aanzienlijk lager.
Hierdoor ontstaat een nieuw economisch speelveld waarin organisaties niet langer automatisch voor de duurste commerciële oplossingen hoeven te kiezen. De prestatiedelta tussen open en gesloten modellen wordt volgens hem ieder kwartaal kleiner.
Licenties worden steeds belangrijker
Naarmate open AI commerciëler wordt, groeit ook het belang van licenties. Waar vroeger veel projecten simpelweg onder Apache 2.0 verschenen, kiezen steeds meer ontwikkelaars voor aangepaste commerciële voorwaarden. Hiermee proberen zij een balans te vinden tussen:
- open innovatie;
- bescherming tegen misbruik;
- commerciële exploitatie;
- duurzame financiering van ontwikkeling.
Dat maakt licenties inmiddels bijna even belangrijk als de technologie zelf.
AI-agenten kunnen niet zonder open infrastructuur
De opkomst van AI-agenten zorgt voor een explosieve toename van inferentie. Eén enkele agent voert namelijk niet één modeloproep uit, maar vaak tientallen of honderden tijdens één taak. Dat betekent:
- meer geheugen;
- meer parallelle verwerking;
- lagere latency;
- veel efficiëntere planning.
Volgens Simon Mo wordt open-source inferentie daardoor vrijwel onmisbaar om deze nieuwe generatie AI-systemen betaalbaar te houden.
De discussie over distillatie blijft voortduren
Ook distillatie komt uitgebreid aan bod. Hierbij leert een kleiner model van de output van een groter model. Volgens sommigen vormt dit een essentieel onderdeel van toekomstige AI-ontwikkeling. Anderen zien het vooral als een tijdelijke optimalisatietechniek.
Welke visie uiteindelijk de juiste blijkt, staat nog open, maar vrijwel iedereen is het erover eens dat efficiëntere modellen een belangrijke rol zullen spelen naarmate AI op steeds grotere schaal wordt ingezet.
De kloof tussen open en gesloten AI wordt kleiner
Misschien wel de belangrijkste conclusie uit het gesprek is dat de voorsprong van gesloten modellen snel afneemt. Waar commerciële modellen jarenlang duidelijk beter presteerden, verschijnen tegenwoordig steeds vaker open alternatieven die verrassend dicht in de buurt komen.
Voor ontwikkelaars betekent dat meer keuze. Voor bedrijven betekent het meer controle. En voor de AI-industrie betekent het dat open source niet langer een alternatief is, maar steeds vaker de standaard waarop nieuwe toepassingen worden gebouwd.
De toekomst van kunstmatige intelligentie lijkt daardoor niet uitsluitend bepaald te worden door de grootste modelbouwers, maar juist door de open infrastructuur die het hele ecosysteem mogelijk maakt.
