Volgens beveiligingsonderzoekers kunnen cybercriminelen gebruikmaken van de ChatGPT-bot van OpenAI om malware te produceren met behulp van AI. De eerste pogingen hiertoe zijn waargenomen in de digitale onderwereld.
ChatGPT misbruiken voor automatische productie van malware
De ChatGPT bot van OpenAI kan gebruikt worden voor het automatisch produceren van programma’s. Helaas betekent dit ook dat er hulp geboden kan worden voor het programmeren van bijvoorbeeld malware. Dit wordt waargenomen door beveiligingsonderzoekers van Check Point. Zij zagen dat cybercriminelen zonder veel programmeerkennis de ChatGPT bot misbruiken in de digitale onderwereld.
Beveiligingsonderzoekers hebben ontdekt dat cybercriminelen proberen om kwaadaardige tools te ontwikkelen met behulp van ChatGPT, door ondergrondse hackforums te onderzoeken. Sommige criminelen hebben geen programmeerkennis, maar de eerste tools die ze maken zijn eenvoudig. De onderzoekers verwachten dat geavanceerde cybercriminelen in de toekomst ook gebruik zullen maken van AI-gebaseerde tools voor criminele doeleinden.
Experimenten met ChatGPT om malware na te bootsen
Check-Point-medewerkers hebben ontdekt dat iemand op een populair ondergronds forum aan het experimenteren was met ChatGPT om malwarefamilies na te bootsen, die in onderzoekspublicaties en beschrijvingen van malware voorkomen. De persoon deelde een stukje code in Python dat bestanden zoekt, deze kopieert naar een willekeurige map, ze in een ZIP-bestand zet en uploadt naar een vastgelegde FTP-server.
Test van een codefragment van een cybercrimineel
De IT-onderzoekers hebben een codefragment van een cybercrimineel getest. Daaruit constateerden de onderzoekers dat het de beloofde functies opleverde. Een ander voorbeeld van de acties van deze crimineel was een Java-fragment waarmee de PuTTY SSH-client gedownload en verborgen gestart kon worden in het systeem via Powershell. Dit script zou in principe makkelijk aangepast kunnen worden. Zo kun je er dan programma’s mee downloaden waaronder malware. Deze pogingen van de cybercrimineel tonen aan dat zelfs met een beperkte programmeerkennis, er gevaarlijke software kan worden gemaakt met behulp van AI zoals ChatGPT.
Thread op een ondergrondse forum
Een gebruiker op een ondergronds forum deelde voorbeelden waaruit blijkt dat zelfs mensen zonder veel technische kennis ChatGPT kunnen misbruiken voor criminele doeleinden. Dit wordt aangetoond door de realistische voorbeelden die hij deelde. Bovendien konden deze realistische voorbeelden direct gebruikt worden.
Het is best wel zorgwekkend dat cybercriminelen zonder veel technische kennis de ChatGPT bot kunnen misbruiken. Zij kunnen namelijk best gemakkelijk kwaadaardige software creëren en vormen dus een serieuze beveiligingsbedreiging.
Een paar dagen eerder had een cybercrimineel een Python-script geplaatst. Hij beweerde dat dit het eerste script was dat hij ooit had gemaakt. Toen hem gevraagd werd naar de gelijkenis tussen de code en de ChatGPT-code, antwoordde hij dat de OpenAI bot hem had geholpen met het creëren van een script met een mooie set functies. De onderzoekers van Check Point bevestigen dat het script cryptografische functies uitvoert zoals ondertekening, decodering en codering.
ChatGPT niet per se een kwaadaardige tool
Volgens IT-beveiligingsonderzoekers kunnen deze scripts ook voor legitieme doeleinden worden gebruikt. Denk hierbij aan bijvoorbeeld het automatiseren van taken. De scripts kunnen echter wel gemakkelijk worden aangepast. Bijvoorbeeld om het systeem van een gebruiker volledig te versleutelen zonder tussenkomst van de gebruiker. Dit kan leiden tot een gevaarlijke situatie wanneer het script na het oplossen van wat script- en syntaxisproblemen wordt gebruikt in ransomware.
Een andere manier waarop cybercriminelen zonder geavanceerde programmeervaardigheden ChatGPT kunnen misbruiken is door het creëren van een darkweb-marktplaats. Dit is een online platform waar illegale of gestolen goederen worden verhandeld. Denk hierbij bijvoorbeeld aan:
- Gestolen inloggegevens
- Creditcardgegevens
- Malware
- Drugs
- Wapens & munitie,
De betalingen van zo’n darkweb-marktplaats lopen vrijwel allemaal via cryptocurrencies. Zo is er aangetoond dat een cybercrimineel heeft laten zien hoe code gebouwd met ChatGPT een externe API kan raadplegen voor de huidige cryptocurrency tarieven, om te gebruiken als onderdeel van een darkweb betalingssysteem.
Voor wat voor criminele doeleinden kan ChatGPT nog meer gebruikt worden?
Begin 2023 werd er in de ondergrondse forums verder gepraat over hoe ChatGPT kon worden gebruikt voor criminele doeleinden. Veel van de discussies gingen over het maken van willekeurige kunst met DALLE2 en het verkopen ervan op het Etsy-platform of het creëren van e-books of korte hoofdstukken over specifieke onderwerpen met ChatGPT en deze verkopen op internet.
Volgens Check Point-onderzoekers is het nog te vroeg om te beoordelen of ChatGPT de nieuwe tool bij uitstek zal worden in de digitale underground. De ondergrondse gemeenschap lijkt echter geïnteresseerd in het gebruiken van AI om bijvoorbeeld kwaadaardige code te genereren.
Wat zegt ChatGPT over het programmeren van malware?
Naar aanleiding van de uitkomsten van het onderzoek van Check Point, waren wij van de c’t redactie best nieuwsgierig geworden. Zo wilden wij eigenlijk ook wel te weten komen over hoe ChatGPT eigenlijk er mee omgaat wanneer hem vragen worden gesteld die bedoeld zijn voor criminele doeleinden.
In de screenshot hieronder kun je een gesprek tussen ons & ChatGPT zien over het programmeren van malware-software.
Het blijkt dus wel zo te zijn dat de bot weet dat het niet ethisch verantwoord is om te helpen met het programmeren van malware. Zo geeft de bot dus ook aan dat het programmeren van malware illegaal is en het schade veroorzaakt aan computers en netwerken.
Toch laten cybercriminelen zien dat je door andere vragen te stellen toch geholpen kan worden met het creëren van malware. Dit is iets wat in de toekomst hopelijk een stuk lastiger voor hen gemaakt zal worden.
Conclusie
Al met al is het duidelijk dat cybercriminelen in staat zijn om de ChatGPT bot te misbruiken voor het automatisch produceren van programma’s zoals malware. Jammer genoeg is er door beveiligingsonderzoekers van Check Point waargenomen dat zelfs cybercriminelen zonder veel programmeerkennis in staat zijn om eenvoudige tools te creëren met behulp van de ChatGPT bot. Dit kan leiden tot een toename van kwaadaardige tools die worden gebruikt voor criminele doeleinden in de toekomst. Het is belangrijk om bewust te zijn van deze trend en te werken aan beschermingsmaatregelen om jezelf te beschermen tegen dit soort aanvallen.
Toch is het ook zo dat de ChatGPT bot voor veel andere doeleinden kan worden ingezet, die wel een positief effect hebben. Zo kan de ChatGPT bot best handig zijn om bijvoorbeeld te helpen met het schrijven van een leuk verjaardagsberichtje voor vrienden of familie!
Ontvang gratis informatie en tips over kunstmatige intelligentie, schrijf je in voor de nieuwsbrief:
