Recent werd cybersecurityonderzoek opgeschrikt door een opmerkelijke ontdekking. ESET, een bekend beveiligingsbedrijf, stuitte in VirusTotal op een stuk malware dat zij “PromptLock” noemden: een ransomwareprototype dat gebruikmaakt van generatieve AI om in realtime schadelijke scripts te creëren voor Windows, Linux én macOS.
First known AI-powered ransomware uncovered by ESET ResearchThe discovery of PromptLock shows how malicious use of AI models could supercharge ransomware and other threats. |
Wat PromptLock zeldzaam maakt
Uniek aan PromptLock is dat het geen statische code bevat, maar bij elke uitvoering via een lokaal taalmodel (bijvoorbeeld gpt-oss:20b via Ollama) een nieuwe, polymorfe Lua-script genereert. Die variaties tarten traditionele detectiemethoden.
De waarheid achter de code: een gecontroleerd experiment
Kort na de ontdekking meldde NYU’s Tandon School of Engineering dat dit malwarevoorbeeld geen kwaadaardige aanval was, maar onderdeel van hun onderzoek: “Ransomware 3.0” — een proof-of-concept ontworpen om te demonstreren hoe AI de volledige cyclus van een ransomwareaanval zelfstandig kan doorlopen.
NYU team behind AI-powered malware dubbed ‘PromptLock’Researchers at NYU’s Tandon School of Engineering confirmed they created PromptLock to illustrate potential harms of AI-powered malware. |
Vier fasen van een AI-aangejaagde aanval
Het systeem voert vier sleutelfases van een ransomwareaanval autonoom uit:
- Verkenning van het systeem
- Selectie van waardevolle bestanden
- Exfiltratie of encryptie van data
- Generatie van gepersonaliseerde losgeldberichtenDeze bio-instructies zijn in natuurlijke taal in de binaire code ingebed — het taalmodel genereert ter plekke het uitvoerbare payload.
Large language models can execute complete ransomware attacks autonomously, NYU Tandon research shows | NYU Tandon School of Engineering
|
Goedkoop en potentieel wijdverspreid
NYU berekende dat elke volledige aanval rond de $0,70 kost wanneer gebruik wordt gemaakt van commerciële AI-API’s, en zelfs vrijwel gratis is met open-source modellen. Dit opent de deur voor minder ervaren cybercriminelen om geavanceerde ransomwarecampagnes te lanceren – voor een fractie van de traditionele kosten.
Een complexe uitdaging voor cybersecurity
Het vermogen van de AI om verschillende scripts te genereren plaatst verdedigers voor een uitdaging. Signaturen en gedragsmodellen zijn minder effectief als iedere aanval verschillend is . NYU’s project benadrukt daarom de noodzaak van nieuwe detectiemethoden die AI-gegenereerde kenmerken herkennen, zoals monitoring van bestandstoegang, controle over AI-API-connecties en gedragsanalyses speciaal gericht op AI-aanvallen.
|
The first AI-powered ransomware has been discovered — "PromptLock" uses local AI to foil heuristic detection and evade API tracking [Updated]Security firm ESET has discovered a new type of ransomware that uses a local AI model to generate malicious scripts and perform other illicit activities. Because of the variance of LLM output, this malware is harder to track than traditional attacks. |
Wat de toekomst brengt
Hoewel PromptLock op dit moment een gecontroleerde demonstratie is, vormt het een waarschuwing: de technologie is er, en de scenario’s waarin dergelijke aanvallen in de praktijk worden gebruikt, zijn niet denkbeeldig. Cybersecurity-gemeenschappen worden opgeroepen proactief hun verdediging te versterken voordat kwaadwillenden wereldwijde verspreiding kunnen realiseren.
New York University toont met PromptLock dat AI niet langer een ondersteunend middel is, maar de kern kan vormen van machtige en autonome ransomware-aanvallen. Het onderzoek roept op tot waakzaamheid: beveiligingsexperts moeten nieuwe verdedigingslagen ontwikkelen, want de toekomst van cyberdreigingen lijkt nu al begonnen.
