Waar ligt de grens bij AI?

Artificial Intelligence wordt onderdeel van steeds meer werkprocessen. Ontwikkelaars gebruiken AI om code te schrijven en testen, securityteams om waarschuwingen te analyseren en onderzoeken te ondersteunen. Ook Digital Forensics and Incident Response (DFIR), het vakgebied binnen cybersecurity dat zich richt op het reageren op cyberaanvallen en het onderzoeken van digitaal bewijs, ontkomt er niet aan.

Toch leert de ontwikkeling van digital forensics ons een belangrijke les: hulpmiddelen kunnen onderzoeken ondersteunen, maar onderzoekers blijven verantwoordelijk voor de kwaliteit van hun conclusies. Naarmate AI verder wordt geïntegreerd, moeten we daarom bepalen waar het waarde toevoegt, waar menselijke expertise noodzakelijk blijft en waar organisaties een duidelijke grens moeten trekken.

Voor DFIR-teams liggen enkele van de meest veelbelovende toepassingen van AI in praktische ondersteuning. Zo heeft naar schatting meer dan 90 procent van de misdrijven in Engeland en Wales een digitaal element. Tegelijkertijd groeit de hoeveelheid beschikbare data. De Britse politie kampt momenteel met een achterstand van meer dan 20.000 devices die wachten op digitaal forensisch onderzoek.

Die data zijn verspreid over endpoints, cloudomgevingen, communicatieplatforms en gebruikersaccounts. AI kan helpen bij het ordenen en prioriteren ervan. Het kan grote hoeveelheden data snel verwerken, mogelijke verbanden signaleren en bronnen aanwijzen die nader onderzoek verdienen. Ook kan AI activiteiten op verschillende apparaten, accounts en databronnen met elkaar verbinden en zo helpen bij het reconstrueren van tijdlijnen die handmatig veel tijd zouden kosten.

Daarnaast kan AI ondersteunen bij het structureren van informatie en rapportages. Zo houden deskundigen meer tijd over voor analyse en besluitvorming.

Goed toegepast vermindert AI daarmee vooral het aandeel handmatig en herhalend werk. De expertise van de professional wordt niet vervangen, maar effectiever ingezet.

Daar ligt tegelijkertijd een risico: AI-gegenereerde output kan overtuigend klinken, waardoor gebruikers geneigd kunnen zijn resultaten te snel te accepteren.

Een belangrijke les uit digital forensics is dat ieder hulpmiddel beperkingen heeft. Forensische software kan fouten maken en AI is daarin niet anders. Het grootste risico ontstaat wanneer mensen AI gebruiken zonder voldoende kennis om te herkennen wanneer het systeem ernaast zit.

AI kan helpen om tot een conclusie te komen, maar de gegenereerde uitkomst mag niet automatisch de conclusie zélf worden.

In DFIR kan AI helpen om informatie te vinden die nader onderzoek verdient en analyses efficiënter uit te voeren. Het systeem moet echter niet blind worden vertrouwd voor onderzoeksconclusies of beslissingen over schuld of onschuld. Zulke beslissingen hebben juridische en soms levensbepalende consequenties. Menselijk oordeel en menselijke verantwoordelijkheid blijven daarom onmisbaar.

Hetzelfde geldt voor andere sectoren. Organisaties moeten bepalen hoeveel verantwoordelijkheid zij aan AI willen toevertrouwen. Dat verschilt per toepassing. De centrale vragen zijn steeds: welke maatregelen voorkomen dat mensen te afhankelijk worden van AI? En hoe wordt vastgesteld wanneer een AI-uitkomst niet klopt?

Verantwoord AI-gebruik begint daarom niet met het zo snel mogelijk automatiseren van processen, maar met governance. Bepaal eerst wat AI wel en niet mag doen. Begin vervolgens met toepassingen met een laag risico, waarbij resultaten eenvoudig door mensen kunnen worden gecontroleerd of teruggedraaid. Van daaruit kan de inzet geleidelijk worden uitgebreid.

Zo wordt AI geen vervanger van menselijke besluitvorming, maar een krachtversterker die professionals helpt hun werk beter en efficiënter te doen.

Door: Heather Barnhart, DFIR Curriculum Lead and Head of Faculty bij SANS Institute