Kunstmatige intelligentie (AI) speelt al decennialang een cruciale rol in cybersecurity, variërend van malwaredetectie tot netwerkverkeeranalyse. Met de opkomst van kunstmatige algemene intelligentie (AGI) groeit het potentieel van AI om verdedigingen te automatiseren en kwetsbaarheden te verhelpen. Echter, deze vooruitgang brengt ook risico's met zich mee, aangezien geavanceerde AI door kwaadwillenden kan worden misbruikt om cyberaanvallen te versterken. Google DeepMind heeft een nieuw raamwerk ontwikkeld om deze dreigingen te evalueren en passende verdedigingsmaatregelen te prioriteren.
Het raamwerk voor dreigingsanalyse
Het voorgestelde raamwerk richt zich op het analyseren van de volledige keten van cyberaanvallen, van initiële toegang tot uiteindelijke impact. Door bestaande modellen voor cyberaanvalsketens aan te passen aan AI-systemen, kunnen onderzoekers hiaten identificeren in de evaluatie van AI-dreigingen. Dit stelt verdedigers in staat om gerichte mitigaties te prioriteren en AI-gestuurde tegenstanders te emuleren ter ondersteuning van 'red teaming'-activiteiten.
Toepassing en resultaten
Door het analyseren van meer dan 12.000 gevallen waarin AI werd ingezet bij cyberaanvallen, heeft het team van Google DeepMind zeven archetypen van cyberaanvalsketens geïdentificeerd. Een bottleneck-analyse binnen deze ketens helpt bij het vaststellen van gebieden waar AI de kosten van aanvallen kan verlagen. Het ontwikkelde evaluatiebenchmark omvat 50 nieuwe uitdagingen die verschillende fasen van cyberaanvallen bestrijken. Deze aanpak biedt een uitgebreide evaluatie van AI-cyberdreigingen en ondersteunt verdedigers bij het prioriteren van verdedigingsmaatregelen.
Verdedigingen identificeren en prioriteren
Het raamwerk van Google DeepMind biedt cybersecurity-experts de middelen om noodzakelijke verdedigingen te identificeren en te prioriteren voordat kwaadwillenden AI kunnen misbruiken voor geavanceerde cyberaanvallen. Deze proactieve benadering is essentieel om de voordelen van geavanceerde AI te benutten en tegelijkertijd de potentiële risico's te beheersen.
Building secure AGI: Evaluating emerging cyber security capabilities of advanced AIOur framework enables cybersecurity experts to identify which defenses are necessary—and how to prioritize them |
