Realtime cyber­defensie met AI: Amazon zet de standaard

Tech­gigant Amazon heeft een nieuw intern systeem ontwikkeld, genaamd Autonomous Threat Analysis (ATA), waarmee het met behulp van meerdere gespecialiseerde AI-agenten kwetsbaarheden in zijn eigen platformen proactief detecteert en verhelpt. Het systeem is oorspronkelijk voortgekomen uit een hackathon in augustus 2024 en wordt sindsdien gezien als een belangrijke stap in de beveiliging van de miljardenregels code die Amazon dagelijks beheert.

Waarom nu nodig

Met de opkomst van generatieve AI stijgt niet alleen de snelheid van softwareontwikkeling, maar ook die van digitaal misbruik: aanvallers — zowel financieel gemotiveerd als staatsondersteund — krijgen steeds krachtiger middelen. Daardoor worden beveiligingsteams geconfronteerd met een enorme hoeveelheid code én een groeiende dreiging. Amazon erkent dat menselijke testers simpelweg niet alle software en toepassingen tijdig kunnen beoordelen — een dekkingstekort dat ATA moet helpen opvangen.

Amazon Is Using Specialized AI Agents for Deep Bug Hunting Born out of an internal hackathon, Amazon’s Autonomous Threat Analysis system uses a variety of specialized AI agents to detect weaknesses and propose fixes to the company’s platforms.

Hoe ATA werkt – agententeams in competitie

ATA is geen enkele AI-agent die alles doet, maar eerder een verzameling van gespecialiseerde AI-agenten die tegen elkaar werken in twee teams: een offensief “red team” dat aanvallen simuleert, en een defensief “blue team” dat tegenmaatregelen formuleert. In een realistisch test-milieu — een spiegel van Amazons productieomgeving — voeren de red-agents daadwerkelijke commando’s uit in een gecontroleerde setting met real-world logs, waarna de blue-agents op basis van echte telemetrie controleren of de voorgestelde bescherming werkt.

Beeld van waarheid en fictie: hallucinatiebeheer

Een van de grote uitdagingen bij AI-gestuurde beveiliging is het voorkomen van “hallucinaties” — dat de AI iets claimt dat niet klopt. Amazon zegt dat ATA architectonisch zo is opgezet dat dit praktisch onmogelijk is: elke techniek moet worden ondersteund door tijdgecodeerde log­gegevens en automatische validatie. Dit versterkt de betrouwbaarheid van het systeem en voorkomt dat beveiligingsanalisten worden afgeleid door valse positieve meldingen.

Praktijkvoorbeeld: reverse shell-aanvallen

Een illustratief resultaat: ATA analyseerde reverse shell-technieken (waarbij een gehackt apparaat zelf verbinding maakt met een aanvallers-machine). Binnen uren had het systeem nieuwe varianten ontdekt en effectieve detectiemaatregelen voorgesteld die 100 % effectief bleken. Hiermee toont Amazon aan dat AI niet alleen helpt bij grote ambitieuze risico’s, maar ook bij relatief “klassieke” aanvalsmethoden — die steeds sneller evolueren.

Rol van mensen blijft cruciaal

Hoewel ATA autonome functies vervult, benadrukt Amazon dat het geen vervanging is voor menselijke beveiligingsexperts. De menselijke “in the loop” blijft vereist voordat wijzigingen worden doorgevoerd in het productie­milieu. Het idee is dat de AI het zweet- en routinewerk overneemt, zodat menselijke experts zich kunnen richten op de complexere, creatieve vraagstukken. Zoals Amazon’s CISO Steve Schmidt het formuleert: “AI doet het zware werk achter de schermen. Wanneer ons team is vrijgemaakt van het analyseren van false positives, kunnen ze zich richten op echte dreigingen.”

Wat staat er op de planning?

De volgende stap voor ATA is implementatie in realtime incident-response: dus niet alleen proactief kwetsbaarheden opsporen, maar ook in het moment van een aanval sneller detecteren en direct remediëren. Dit zou betekenen dat Amazon’s enorme infrastructuur sneller kan reageren op serieuze bedreigingen, voordat schade of lekken optreden.

Amazon’s ATA laat zien dat bedrijven met enorme digitale voetafdrukken niet langer kunnen vertrouwen op traditionele pen-and-paper-testen of mens-alleen-modellen. De beveiliging van de toekomst is hybride: AI + mens, waarin het machine-werk routine overneemt, en de menselijke expert zich richt op strategisch belang. Voor iedereen in de AI/ecosysteem-sector is het een waarschuwing én een inspiratiebron.