Promptinjecties blijven een hardnekkig probleem
Naarmate generatieve AI een grotere rol krijgt in bedrijven, groeit ook de belangstelling van cybercriminelen. Een van de meest hardnekkige aanvalstechnieken is de zogenoemde promptinjectie: een poging om een AI-model te misleiden zodat het beveiligingsregels negeert, vertrouwelijke informatie prijsgeeft of ongewenste acties uitvoert.
Traditionele beveiligingsmaatregelen blijken vaak onvoldoende om dergelijke aanvallen volledig tegen te houden. Daarom verschuift de aandacht naar een opvallende strategie: AI inzetten om andere AI-systemen te testen en te beschermen.
GPT-Red: Een AI die denkt als een aanvaller
OpenAI ontwikkelde daarvoor GPT-Red, een intern red-teamingplatform dat zich gedraagt als een digitale aanvaller. In plaats van menselijke beveiligingsonderzoekers alle mogelijke aanvalsscenario's handmatig te laten bedenken, genereert GPT-Red zelfstandig duizenden varianten van promptinjecties, jailbreaks en andere aanvalstechnieken.
Het systeem probeert voortdurend zwakke plekken te ontdekken voordat kwaadwillenden dat doen. Zodra een kwetsbaarheid wordt gevonden, kunnen ontwikkelaars hun modellen verbeteren en extra beschermingslagen toevoegen.
Volgens de onderzoekers speelde GPT-Red een belangrijke rol bij het versterken van GPT-5.6 Sol, dat hierdoor uitgroeide tot een van de meest cyberweerbare AI-modellen die OpenAI tot nu toe heeft ontwikkeld.
AI versnelt de beveiliging
De traditionele manier van red teaming is tijdrovend. Teams van beveiligingsexperts bedenken scenario's, voeren aanvallen uit en analyseren de resultaten. GPT-Red automatiseert een groot deel van dat proces.
Hierdoor kunnen veel meer aanvalsscenario's worden getest dan ooit tevoren. Bovendien leert de AI voortdurend bij, waardoor ook nieuwe aanvalstechnieken sneller worden ontdekt.
Dat maakt beveiliging niet alleen efficiënter, maar ook schaalbaarder. Naarmate AI-systemen complexer worden, wordt menselijke controle alleen immers onvoldoende om alle risico's af te dekken.
ScamBuster draait de rollen om
Naast GPT-Red kwam ook ScamBuster aan bod, een open-sourceproject dat zijn debuut maakt tijdens Black Hat, een van de grootste cybersecurityconferenties ter wereld.
Waar internetoplichters normaal gesproken slachtoffers proberen te misleiden, doet ScamBuster precies het tegenovergestelde. De AI gaat actief het gesprek aan met fraudeurs via e-mail.
Tijdens deze gesprekken probeert het systeem zoveel mogelijk informatie los te krijgen over gebruikte scripts, infrastructuur, werkwijzen en technische hulpmiddelen. De verzamelde gegevens helpen beveiligingsonderzoekers vervolgens om nieuwe fraudevormen sneller te herkennen en te bestrijden.
Daardoor verandert AI van een passieve verdediger in een actieve informatieverzamelaar.
De groeiende kloof tussen vaardigheden en mogelijkheden
Een ander onderwerp uit de podcast draait om een gedachte-experiment van cybersecurity-expert Bruce Schneier. Volgens hem ontstaat een steeds grotere kloof tussen vaardigheden en mogelijkheden.
Vroeger kostte het jaren om een ervaren beveiligingsspecialist te worden. Die opleiding bracht niet alleen technische kennis met zich mee, maar ook professionele verantwoordelijkheid en ethische afwegingen.
Met krachtige AI-systemen kunnen tegenwoordig ook minder ervaren gebruikers complexe beveiligingsanalyses uitvoeren of zelfs geavanceerde aanvallen opzetten. Dat democratiseert technologie, maar roept tegelijk belangrijke vragen op.
Wanneer expertise niet langer een voorwaarde is
Als AI steeds meer specialistische taken overneemt, verandert ook de rol van cybersecurityprofessionals.
De nadruk verschuift van puur technische kennis naar kritisch denken, risicobeoordeling, toezicht en ethische besluitvorming. Mensen hoeven mogelijk minder zelf te programmeren of kwetsbaarheden handmatig te analyseren, maar moeten juist beter begrijpen wanneer AI verkeerde conclusies trekt of ongewenst gedrag vertoont.
Daarmee verschuift expertise van uitvoering naar regie.
AI bevecht AI
De ontwikkelingen rond GPT-Red en ScamBuster laten zien dat de volgende fase van cybersecurity waarschijnlijk draait om AI-systemen die elkaar voortdurend uitdagen.
Verdedigende AI zoekt kwetsbaarheden voordat aanvallers dat doen. Tegelijkertijd gebruiken cybercriminelen eveneens steeds geavanceerdere AI om hun aanvallen te automatiseren.
Daardoor ontstaat een voortdurende technologische wedloop waarin snelheid, aanpassingsvermogen en samenwerking tussen mens en machine bepalen wie uiteindelijk het initiatief behoudt.
De toekomst vraagt om menselijke verantwoordelijkheid
Hoewel AI steeds meer beveiligingstaken automatiseert, blijft menselijke expertise onmisbaar. Niet alleen voor het ontwerpen van veilige systemen, maar vooral voor het maken van de ethische en strategische keuzes die AI zelf niet kan maken.
De toekomst van cybersecurity zal daarom waarschijnlijk niet bestaan uit mensen óf AI, maar uit een nauwe samenwerking waarin beide elkaar versterken. AI kan miljoenen aanvallen simuleren en analyseren, maar uiteindelijk blijft het de mens die bepaalt welke risico's aanvaardbaar zijn en welke grenzen nooit mogen worden overschreden.
