AI verlaat het laboratorium en betreedt de productievloer
Generatieve AI heeft de afgelopen jaren een enorme vlucht genomen. Veel organisaties experimenteren met chatbots, AI-assistenten en grote taalmodellen (LLM's), maar slechts een klein deel slaagt erin deze toepassingen betrouwbaar en veilig in productie te brengen. De grootste uitdaging ligt niet langer in het bouwen van AI, maar in het beheren, beveiligen en opschalen ervan.
Tijdens een gezamenlijke presentatie laten Cisco en Red Hat zien hoe bedrijven de stap kunnen zetten van losse AI-proeven naar een volwaardige AI-fabriek: een infrastructuur waarin AI-toepassingen veilig, schaalbaar en efficiënt functioneren, van het datacenter tot aan de edge.
Waarom een AI-fabriek onmisbaar wordt
Volgens Jeff Winn, Senior Director Worldwide AI Platform bij Red Hat, bevinden veel bedrijven zich momenteel in een overgangsfase. AI-projecten beginnen vaak als innovatieve experimenten, maar lopen vast zodra ze duizenden gebruikers, meerdere locaties of bedrijfskritische processen moeten ondersteunen.
Een AI-fabriek biedt hiervoor een gestandaardiseerde aanpak. Net zoals moderne fabrieken producten volgens vaste processen produceren, zorgt een AI-fabriek ervoor dat modellen, data, beveiliging en infrastructuur op een gecontroleerde manier samenwerken.
Het doel is duidelijk: AI ontwikkelen die niet alleen slim is, maar ook betrouwbaar blijft wanneer deze op grote schaal wordt ingezet.
Cisco and Red Hat Data Center Infrastructure SolutionsCisco and Red Hat have collaborated for over a decade to drive innovation. Now, they are advancing AI solutions to modernize data centers. Learn more. |
Beveiliging wordt de belangrijkste succesfactor
Een van de grootste risico's bij generatieve AI is beveiliging. AI-modellen kunnen doelwit worden van aanvallen zoals prompt injection, waarbij kwaadwillenden proberen een model te manipuleren. Ook datalekken vormen een serieus risico wanneer gevoelige bedrijfsinformatie wordt verwerkt.
Cisco en Red Hat benadrukken daarom dat beveiliging gedurende de volledige levenscyclus van AI moet worden ingebouwd. Dat betekent onder meer:
- bescherming tegen prompt injection;
- voorkomen van datalekken;
- continue monitoring van modellen;
- volledige zichtbaarheid van AI-workloads;
- realtime detectie van afwijkend gedrag.
Observability speelt hierin een centrale rol. Door continu inzicht te houden in prestaties, beveiliging en gebruik kunnen organisaties sneller ingrijpen wanneer zich problemen voordoen.
AI moet draaien waar de data ontstaat
Niet alle AI hoort thuis in een centraal datacenter. Steeds vaker ontstaat data juist aan de rand van het netwerk, bijvoorbeeld in:
- auto's;
- slimme camera's;
- fabrieken;
- winkels;
- ziekenhuizen;
- afgelegen locaties.
Daarom verschuift AI steeds vaker richting de edge.
Cisco en Red Hat laten zien hoe AI-modellen kunnen worden uitgerold naar duizenden edge-locaties zonder dat betrouwbaarheid of prestaties verloren gaan. Hierdoor kunnen beslissingen lokaal worden genomen, terwijl centrale systemen het beheer blijven verzorgen.
Dat vermindert vertraging, verlaagt netwerkbelasting en verhoogt de beschikbaarheid van AI-toepassingen.
Weg met unieke maatwerkoplossingen
Veel organisaties bouwen hun AI-platform nog steeds als een uniek project. Iedere omgeving krijgt een eigen configuratie, eigen scripts en eigen beheerprocessen.
Dat lijkt aantrekkelijk tijdens een pilot, maar wordt vrijwel onbeheersbaar zodra honderden of duizenden locaties moeten worden ondersteund.
Cisco en Red Hat pleiten daarom voor gestandaardiseerde architecturen. Door gebruik te maken van bewezen ontwerpmodellen kunnen bedrijven AI veel sneller uitrollen én eenvoudiger beheren.
Technologieën zoals Cisco Intersight en Red Hat Ansible helpen daarbij door infrastructuur automatisch te configureren, updates uit te rollen en beheerprocessen te automatiseren.
Het resultaat is een AI-platform dat niet afhankelijk is van handmatig maatwerk.
Netwerk en Linux vormen de fundering van AI
Succesvolle AI draait niet alleen om krachtige GPU's of slimme modellen.
Ook de onderliggende infrastructuur speelt een cruciale rol.
Large Language Models stellen namelijk uitzonderlijk hoge eisen aan:
- netwerkprestaties;
- opslag;
- latency;
- Linux-omgevingen;
- containerplatformen;
- orkestratie.
Wanneer deze basis niet optimaal is ingericht, ontstaan vertragingen, lagere prestaties en hogere kosten.
Cisco en Red Hat richten zich daarom op een geïntegreerde infrastructuur waarin netwerk, Linux, automatisering en AI-platformen naadloos samenwerken.
Van experiment naar dagelijkse bedrijfsvoering
Een veelvoorkomend probleem bij AI-projecten ontstaat pas nadat een model succesvol is ontwikkeld.
De echte uitdaging begint namelijk op "Day Two": het dagelijkse beheer.
Modellen moeten worden bijgewerkt, beveiligd, gemonitord en opgeschaald zonder de bedrijfsvoering te verstoren.
Daarvoor is een compleet operationeel platform nodig waarin automatisering centraal staat.
Cisco noemt dit een Secure AI Factory: een omgeving waarin AI veilig, controleerbaar en betrouwbaar blijft functioneren gedurende de volledige levenscyclus.
De toekomst van enterprise AI ligt in standaardisatie
De samenwerking tussen Cisco en Red Hat laat zien dat de volgende fase van AI niet draait om nóg grotere modellen, maar om betere bedrijfsvoering.
Succesvolle organisaties onderscheiden zich straks niet door het aantal AI-projecten dat zij starten, maar door de manier waarop zij AI veilig, schaalbaar en beheersbaar kunnen inzetten.
Wie AI wil laten uitgroeien tot een strategisch bedrijfsmiddel, zal moeten investeren in gestandaardiseerde infrastructuur, sterke beveiliging en geautomatiseerd beheer.
Pas dan verandert generatieve AI van een veelbelovend experiment in een betrouwbare productiemachine.
