Van deepfakes tot LLM's: zo gaan oplichters tegenwoordig te werk

Hedendaagse technologieën als chatbots en GenAI zijn als een speelterrein voor criminelen. Met deze technologieën kunnen ze bijna perfecte imitaties van vertrouwde personen en organisaties creëren, waardoor oplichtingen een punt bereiken waarop detectie zonder externe hulp praktisch onmogelijk is. Door zich voor te doen als betrouwbare bron of autoriteit, weten oplichters mensen te misleiden om zo hun geld, persoonlijke informatie of digitale bezittingen te verkrijgen. Ze gebruiken verschillende tactieken zoals mogelijk interessante investeringen, aanbiedingen voor een baan, datingfraude en neppe technische ondersteuning.

Deepfakes en LLM’s

Naarmate technologieën vorderen, maken oplichters gebruik van opkomende tools zoals deepfakes en Large Language Models (LLM’s) om slachtoffers te manipuleren. Deepfakes gebruiken AI om beelden, video's of audio te manipuleren en fictieve, maar overtuigende content te creëren. Ze kunnen neppe nieuwsberichten, interviews, aanbevelingen of bewijsmateriaal maken, vaak niet te onderscheiden van de realiteit. Zo wisten fraudeurs eerder dit jaar succesvol 24 miljoen euro te stelen door zich voor te doen als de financieel directeur van een internationaal bedrijf tijdens een videomeeting, maar waarbij alle deelnemers deepfakes waren.

Ook LLM’s kunnen natuurlijke teksten generen en bootsen specifieke stijlen of tonen na. Met deze technologieën kunnen criminelen op maat gemaakte scams opzetten om specifieke individuen of groepen te benaderen, waardoor de grens tussen echte en frauduleuze communicatie vervaagt.

Laagdrempelige tooling

Met toegankelijke tools zoals FraudGPT of WormGPT wordt het voor oplichters steeds gemakkelijker om aan de slag te gaan. Deze tools identificeren doelwitten efficiënt door specifieke criteria op te geven. Zo is het bijvoorbeeld mogelijk om een lijst van 100 senior executives in cybersecurity op te stellen, inclusief hun beschikbare gegevens. Verder kunnen ze kennissen in de persoonlijke kringen van slachtoffers identificeren, bijvoorbeeld door alle bekende familieleden op te sommen, en zijn de tools in staat om de relatie van het slachtoffer met vertrouwde contacten te onderzoeken door alle beschikbare communicatie te analyseren, inclusief die op sociale media.

We zijn er nog niet. Deze tools kunnen zelfs geld vragen aan slachtoffers, bijvoorbeeld door een video van 30 seconden te tonen waarin ze worden aangemoedigd om een laptop te kopen van een aangewezen website. Tot slot zijn ze in staat een website op te zetten om betalingsgegevens te verzamelen, zoals een e-commerce platform voor laptops dat enkel betalingen met creditcards of bankkaarten accepteert. Naarmate LLM’s vorderen, wordt deze alles-in-één, laagdrempelige oplichtingspraktijk onvermijdelijk, wat de dringende behoefte aan verbeterde privacy- en beveiligingsmaatregelen benadrukt.

Wat kunnen we doen?

Gezien de toenemende dreiging van deepfakes en LLM's moeten zowel consumenten als bedrijven zich wapenen met innovatieve oplossingen. Door technologie te omarmen en samen te werken met belanghebbenden, kunnen bedrijven de capaciteit om toekomstige risico's te identificeren en te bestrijden maximaliseren. Voor consumenten helpen watermerken, fact-checking tools en timestamps om authenticiteit vast te stellen. Zo kan een timestamp bijvoorbeeld aantonen wanneer een bepaald document precies is gemaakt of ondertekend.

Bovendien tonen gedragsbiometrische data ook veelbelovende resultaten om manipulatief gedrag en illegale betrokkenheid op te sporen. Met de toenemende complexiteit van oplichtingspraktijken zijn proactieve maatregelen noodzakelijk. Door alert te blijven en innovatieve oplossingen te gebruiken, kunnen we deze veranderende bedreigingen voor zijn.