De opkomst van generatieve AI brengt niet alleen nieuwe mogelijkheden, maar ook nieuwe risico’s. Uit een recent onderzoek van Gartner blijkt dat bijna twee derde van de organisaties het afgelopen jaar te maken kreeg met een aanval via deepfakes. Daarnaast werd bijna een derde geconfronteerd met aanvallen op hun AI-toepassingen.
Deepfakes als nieuw wapen
Volgens Gartner werd 62% van de organisaties getroffen door deepfake-aanvallen, vaak in de vorm van social engineering of door het uitbuiten van geautomatiseerde processen. Deze aanvallen variëren van vervalste video’s en audioboodschappen tot gesimuleerde identiteiten die medewerkers misleiden.
Cybersecurity CEO explains 'new' source of threat in AI age | Fox Business VideoNetskope CEO Sanjay Beri explains how his cybersecurity company uses A.I. models to protect customers and its path to profitability on 'The Claman Countdown.' |
Aanvallen op AI-toepassingen
Daarnaast gaf 32% van de ondervraagde organisaties aan dat hun AI-applicaties zelf doelwit waren. Aanvallers gebruiken hierbij zogeheten prompt-based technieken: manipulatieve opdrachten die grote taalmodellen (LLM’s) of multimodale modellen misleiden tot het produceren van bevooroordeelde of zelfs schadelijke output. Chatbots blijken daarbij bijzonder kwetsbaar.
Gartner: Preemptive cybersecurity to dominate 50% of security spend by 2030 - Help Net SecurityThere will be a shift from broad, one-size-fits-all DR security platforms toward more targeted preemptive cybersecurity solutions. |
Toenemende druk op cybersecurity-leiders
Het onderzoek, uitgevoerd tussen maart en mei 2025 onder 302 cybersecurity-leiders in Noord-Amerika, EMEA en Azië-Pacific, toont aan dat 29% van de organisaties in de afgelopen twaalf maanden specifiek werd aangevallen op hun GenAI-infrastructuur.
Tijdens de Gartner Security & Risk Management Summit in Londen benadrukte Akif Khan, VP Analyst bij Gartner, de ernst van de trend:“Phishing, deepfakes en social engineering via generatieve AI zijn inmiddels mainstream. Maar ook nieuwe dreigingen, zoals aanvallen op AI-infrastructuur en manipulaties via prompts, winnen snel terrein.”
|
The AI Security Paradox: Why 85% of AI-Driven Threats Demand AI-First DefenseAI: The Double-Edged Sword in CybersecurityArtificial Intelligence (AI) is reshaping the cybersecurity landscape in ways we’ve never seen before. But there’s a paradox: the very technology that attackers use to launch sophisticated, adaptive, and automated campaigns is also the most powerful tool defenders have at their disposal. Recent industry reports show that 85% of AI-generated The post The AI Security Paradox: Why 85% of AI-Driven Threats Demand AI-First Defense appeared first on Seceon Inc. |
Balans in beveiliging noodzakelijk
Hoewel 67% van de leiders stelt dat de opkomst van GenAI fundamentele veranderingen in de cyberstrategie vereist, waarschuwt Gartner tegen paniekmaatregelen. Khan adviseert een gebalanceerde aanpak: organisaties zouden hun kernbeveiliging moeten versterken en daarnaast gerichte maatregelen nemen tegen de nieuwe risicocategorieën.
Strategische koers
De inzichten van het onderzoek worden verder toegelicht in Gartner’s nieuwe uitgave AI in Cybersecurity: Minimize Risks and Maximize Impact. Hierin wordt uitgelegd hoe organisaties de waarde van AI kunnen benutten zonder de kritieke risico’s uit het oog te verliezen.
