Deze ondernemers helpen je om fraude door deepfakes te herkennen

Max Verstappen die zegt dat Lewis Hamilton eigenlijk wereldkampioen had moeten worden. Mark Rutte die ineens beweert dat corona ‘maar een griepje is’. Jan Terlouw pochend dat hij een Hummer heeft gekocht of Sylvana Simons die Zwarte Piet verheerlijkt. Het is onbestaanbaar, maar als je de persoon in kwestie op beeld, met de eigen stem deze boodschap ziet verkondigen, ga je misschien toch twijfelen schrijft het AD.

Deepfakes zijn beelden, audio en teksten die door software met kunstmatige intelligentie worden gecreëerd of gemanipuleerd. Het lijkt misschien ingewikkeld om te doen, maar dat is het tegenwoordig echt niet meer. Ze worden zo goed dat ze eigenlijk met het menselijk oog niet meer te onderscheiden zijn van de werkelijkheid. En dat juist in een tijd waarin mensen gevoeliger dan ooit lijken voor desinformatie.

Gemanipuleerd

Maar dankzij dezelfde technologie die deze deepfakes genereren, zijn ze ook op te sporen. De Delftse startup DuckDuckGoose ontwikkelde daarom de DeepDetector, een tool die deepfake-gezichten in video’s en afbeeldingen detecteert binnen 1 seconde en met een nauwkeurigheid van ongeveer 93 procent.

En de tool vertelt je niet alleen dat het om een deepfake gaat, maar laat ook zien waar de afbeelding is gemanipuleerd. ,,Zo willen we inzichtelijk maken wat we doen en mensen laten zien dat ze iets niet zomaar blindelings moeten geloven”, legt ceo Parya Lotfi uit. ,,Ook niet wat wij ze vertellen. En dus we laten het bewijs zien.”

Omdat deepfakes zo goed en makkelijk te genereren zijn, duiken ze overal op. Foto’s op social media of dating-apps zijn eenvoudig te vervalsen. Maar zelfs het pratende gezicht aan de andere kant van een video call kan zomaar deepfake zijn. En waar het aan de ene kant grappige en onschuldige video’s oplevert - denk aan een dansende Mark Rutte en Hugo de Jonge - is het natuurlijk ook hartstikke fraudegevoelig.

Tegenwoordig trappen niet heel veel mensen meer in de oplichtingspraktijken via WhatsApp, waarbij een zoon of dochter zogenaamd een nieuw nummer heeft en de ouder vraagt om een kortstondige lening. Maar wat nu als zoon of dochterlief ineens videobelt en in levenden lijve en met de eigen stem vraagt om geld? ,,Banken werken tegenwoordig ook steeds vaker met digitale ID-verificatie. Daarbij wordt een foto ter controle gebruikt die overheen moet komen met de foto in het paspoort. Met deepfake kun je dus zomaar ineens bankzaken van een ander overnemen”, legt cto Joris Mollinga uit.

Risico deepfake

,,Het bewustzijn daarover is helaas nog niet heel groot”, gaat cfo Mark Evenblij verder. ,,Bij bedrijven niet en ook niet bij particulieren. Maar iedereen, alle sectoren die werken met foto’s of bewegend beeld, kunnen gevoelig zijn voor deepfake en dus baat hebben bij onze diensten. Wij werken nu al onder meer samen met het NFI en andere forensische klanten. En bijvoorbeeld de politie.”

Voor de zakelijke markt bestaan er twee varianten van de DeepDetector. Een API (Application Programming Interface), waarbij DuckDuckGoose opgestuurde beelden analyseert, en een stand alone-versie die de klant zelfstandig kan inzetten. Voor consumenten is een browser plug-in in ontwikkeling die deepfakes automatisch detecteert door elke website te scannen die de gebruiker bezoekt. DeepfakeProof waarschuwt de gebruiker vervolgens voor eventuele met deepfake-technologie gegenereerde of gemanipuleerde media. Alle gevonden deepfakes worden vervolgens opgeslagen in een database om meer inzichten te creëren rondom het deepfake-landschap online.

Kat-en-muisspel

DuckDuckGoose ontstond twee jaar geleden na een uit de hand gelopen studieproject. Inmiddels draait het bedrijf al ruim een jaar en zijn de eerste betalende klanten binnen gehengeld. Naast het eigen product constant te verbeteren, is het voor Lotfi, Mollinga en Evenblij (en hun inmiddels twee medewerkers) vooral zaak om bij te blijven als het gaat om deepfake-ontwikkelingen.

,,Het is een soort kat-en-muisspel”, zegt Lotfi. ,,Ergens op de wereld wordt er weer iets nieuws bedacht en wij moeten dat kunnen detecteren. Er bestaat een hele deepfake-community, waar wij ook onderdeel van uitmaken. We lezen elke paper die uitkomt en alle beetjes informatie die worden gepubliceerd. Zo blijven we zo goed mogelijk op de hoogte. We maken zelf trouwens ook deepfakes, hartstikke leuk om te doen. En ook leerzaam om je op die manier met deze materie bezig te houden.”

Overigens is de naam DuckDuckGoose afgeleid van het kinderspel dat in Nederland bekend staat als ‘zakdoekje leggen’. ,,Bij dit spel zit je in een kring en loopt een iemand achter iedereen langs en zegt steeds ‘duck’. Tot degene ‘goose’ zegt en het spel echt begint”, legt Evenblij uit. ,,Het komt er op neer dat er dus een gans verstopt zit tussen allemaal eenden. En dat is een metafoor voor de deepfake die verstopt zit tussen alle echte mensen.”

Kosten besparen met Deepfake

Mollinga zou het afgelopen succesjaar willen omschrijven als ‘leuker dan verwacht, maar zeker niet makkelijker’. ,,Het is een achtbaan. Het gaat heel hard, en het is ook een beetje eng. We werken met steeds grotere partijen samen en moeten steeds meer ballen tegelijk in de lucht houden. Naast een goed idee moet je ook nog goed een bedrijf kunnen runnen. Maar het is heel erg leerzaam allemaal en het is fijn om te zien dat mensen in ons geloven en ons willen helpen.”

Tot slot willen de drie ondernemers nog eens onderstrepen dat deepfake echt niet alleen negatief is en gebruikt wordt door frauduleuze oplichters. Naast lollige viral video’s zijn er nog tal van manieren om deepfake positief in te zetten. Lotfi: ,,Denk daarbij aan synthetische modellen waardoor een modemerk geen echte modellen of fotografen meer hoeft in te huren. Een flinke kostenbesparing dus. Daarnaast kan het helpen in de psychiatrie of bij rouwverwerking. Of je kan iemand die zijn stem kwijt is, bijvoorbeeld een Stephen Hawking, zijn stem teruggeven waardoor deze weer makkelijker en natuurlijker kan communiceren.”