Deepfake Technologie

Deepfake technologie verwijst naar realistische, maar niet echte, audio-, visuele of tekstuele content die is geproduceerd met behulp van Artificiële Intelligentie (AI). Het woord deepfake is een combinatie van de Engelse woorden "deep learning" en "fake." Deep learning stelt computers in staat om, net als het menselijk brein, nieuwe dingen te leren op basis van grote hoeveelheden data. Die data kunnen zowel afbeeldingen, cijfers, geluid als tekst zijn. Fake verwijst naar zaken die niet echt zijn of imitaties van iets.

Deepfake technologie kan bijvoorbeeld foto’s genereren van mensen die niet echt bestaan, stemmen artificieel genereren, kopiëren en nadoen, filmpjes maken waar de gezichten zijn vervangen door die van andere en teksten genereren zonder menselijke hulp. Cybercriminelen zouden deepfake technologie kunnen inzetten voor chantage, sabotage, wraak of politieke doeleinden. Een crimineel zou zich bijvoorbeeld kunnen voordoen als de directeur die op zakenreis is in Japan. Hij belt het kantoor in Nederland met de opdracht om een investering te doen in Japan. De medewerker hoort een stem die klinkt als de directeur en vindt de opdracht plausibel. De directeur is immers in Japan en heeft daar klaarblijkelijk een zakelijke kans gezien. Er wordt een groot bedrag overgeboekt naar een rekening in Japan.

Met behulp van deepfake technologie kunnen cybercriminelen iemands gezicht en zelfs lichaam op dat van een andere persoon plaatsen en uitspraken of activiteiten laten doen die de originele persoon niet of nooit zal doen. Een enkele foto of een kort filmpje van iemand, vaak makkelijk op het internet te vinden, kan hier al voldoende voor zijn. De technologie is tegenwoordig gratis beschikbaar via apps voor smartphones en wordt snel beter en toegankelijker. Men voorspelt dat eind 2020 deepfake filmpjes en afbeeldingen niet meer met het gewone oog te onderscheiden zijn van echte.

Deepfake technologie kan op basis van iemands woordgebruik teksten genereren alsof deze door die persoon zelf zijn uitgesproken. Ook is het mogelijk om zowel nieuwe stemmen te genereren als bestaande stemmen perfect digitaal te imiteren. Met deze technologie kunnen cybercriminelen iedereen laten zeggen en laten doen wat ze willen. Zien en horen is niet langer geloven in de wereld van vandaag.

Momenteel ondervinden we nog weinig hinder van deepfake, maar de verwachting is dat de technologie zich de komende tijd snel zal ontwikkelen en nog toegankelijker zal worden. De impact kan enorm divers zijn. Cybercriminelen zouden deepfake Technologie kunnen gebruiken voor bijvoorbeeld identiteitsfraude, bijvoorbeeld door de stem van een CEO te imiteren en geld over te laten maken naar hun eigen rekening. Of om een deepfake video persbericht te creëren, waarin de zogenaamde ‘CEO’ een update geeft waardoor de aandelenkoers een bepaalde kant op gaat. Men verwacht dat de wereldwijde kosten voor deepfake criminaliteit rond de USD 250 miljoen zullen liggen in 2020.

In de Verenigde Staten zijn al deepfake filmpjes gebruikt om de komende presidentsverkiezingen te beïnvloeden, wat heeft geleid tot een verbod op politiek gezinde deepfake filmpjes in meerdere Amerikaanse staten. In China zijn alle deepfake verboden als niet specifiek is benoemd welke content wordt gecreëerd met deepfake technologie. Deepfake technologie heeft gelukkig ook positieve kanten. U zou deze technologie kunnen gebruiken om uw klantreis te personaliseren, om menselijke marketing avatars in te zetten of voor slimme gepersonaliseerde digitale assistenten.

Als medewerkers van uw bedrijf actief zijn op sociale media of traditionele media als (regionale) nieuwszenders dan kunnen hun stemmen en beelden misbruikt worden voor deepfake manipulatie. Om te voorkomen dat uw bedrijf slachtoffer worden van malafide praktijken kunt u diverse preventieve maatregelen nemen.

1. Informeer uw medewerkers.

Goed geïnformeerde medewerkers zullen voorzichter zijn in geval van twijfel, bijvoorbeeld als een ‘manager’ belt met een urgent financieel verzoek.

2. Minimaliseer de financiële impact.

Stel duidelijke regels op voor het vaststellen van de identiteit van klanten en medewerkers. Als geregeld opdrachten voor investeringen of transacties via de telefoon of videobellen worden gedaan, is dit zeer belangrijk.

3. Prepareer communicatie.

Bereid communicatie voor om snel te kunnen reageren op gemanipuleerde media om de impact op uw bedrijf te minimaliseren.

4. Cyber respons.

Neem deepfake aanvallen als risico mee in uw cyber respons plan en bepaal welke stappen u kunt nemen om de veiligheid van uw systemen bij een aanval te waarborgen.

5. Deepfake detectie.

Als het risico in uw bedrijf hoog is, bijvoorbeeld omdat veel opdrachten telefonisch of via een videoverbinding worden doorgegeven, kunt u overwegen om deepfake detectie te installeren. Enkele bedrijven in Nederland bieden dit reeds aan in verschillende varianten.

Problemen als gevolg van Deepfake zijn met technologische oplossingen niet volledig te voorkomen. Net als bij andere social engineering aanvallen is ook hier het belang van cybersecurity awareness training onder uw medewerkers groot. In de praktijk zal het neerkomen op verstandig en effectief communiceren met uw personeel, klanten, leveranciers, toezichthouders en andere belanghebbenden. Hoe beter u bent voorbereid, hoe meer schade u weet te voorkomen.

Maatregelen die zeker hun vruchten kunnen afwerpen bij het beperken van de impact zijn:

• Volg de ontwikkelingen op het gebied van deepfake detectie- en preventiemaatregelen;
• Zet uw cyber respons plan in werking;
• Communiceer op consistente wijze naar externe partijen;
• Schakel direct IT security experts, alsmede communicatie experts in waar nodig;
• Informeer uw klanten, leveranciers en medewerkers op tijd.