Inleiding
Het aandeel ‘fake content’ in onze dagelijkse informatiestroom groeit hard. Op sociale media is het manipuleren van content al jaren de norm. Als het op dit tempo doorgaat is binnen een aantal jaar het merendeel van de online content ‘gemanipuleerd’.[1] Met generatieve AI wordt dat bewerken steeds geavanceerder: een profielfoto is tegenwoordig genoeg om een realistische deepfake van iemand te maken. Deepfakes worden vaak ingezet voor politieke beïnvloeding[2] en fraude.[3] Ook seksuele deepfakes zijn een groot probleem: naar schatting zijn meer dan 95% van de deepfakes pornografisch van aard en zonder toestemming van de betrokkene gegenereerd.[4]
In mijn vorige artikel ging ik in op de problemen rondom deepfakes en het initiatiefwetsvoorstel[5] om een nieuw naburig recht met betrekking tot deepfakes te creëren. Het wetsvoorstel om deepfakes onder het naburig recht te brengen beschermt vooral achteraf tegen schadelijke deepfakes. Ook richt deze wet zich meer op individuele slachtoffers en niet op het maatschappelijk belang: namelijk het belang om niet te worden blootgesteld aan misleidende content.
Daarmee verschuift de blik al snel naar Europa. Een deel van de oplossing ligt in regelgeving, maar die is nog versnipperd. De AI Act, de Digital Services Act (DSA) en de AVG grijpen elk op een ander punt in. In dit artikel bespreek ik hoe die drie kaders samenhangen, en waarom ze nog geen sluitend antwoord geven op het probleem rond deepfakes en online misleiding.
AI Act
De AI Act definieert een deepfake als ‘door AI gegenereerd of gemanipuleerd beeld-, audio- of videomateriaal dat lijkt op bestaande personen, objecten, plaatsen, entiteiten of gebeurtenissen en daardoor ten onrechte authentiek of waarheidsgetrouw kan overkomen’.[6]
Artikel 50 lid 2 verplicht aanbieders van AI systemen om kunstmatig gegenereerde of gemanipuleerde content te voorzien van machineleesbare markeringen (bijvoorbeeld Synthesia-video’s die in politieke campagnes worden gebruikt) waarin de herkomst wordt vermeld.[7] Ook verplicht artikel 50 lid 4 deployers van AI-systemen die kunstmatig gegenereerde of gemanipuleerde content publiceren tot openbaarmaking daarvan.[8] In artikel 3 lid 4 wordt deployer gedefinieerd als iemand die een AI-systeem gebruikt, behalve wanneer dat gebeurt in het kader van een ‘persoonlijke niet-beroepsactiviteit’. Artikel 50 lid 4 geldt dus niet wanneer je bijvoorbeeld als privépersoon een deepfake video/afbeelding op Instagram plaatst. De transparantieregels van artikel 50 gaan gelden vanaf 2 augustus 2026.
Artikel 5 lid 1 van de AI Act verbiedt manipulerende AI-systemen, waaronder misleidende AI die als doel heeft het gedrag van een persoon wezenlijk te verstoren.[9] Het moet daarbij gaan om een verstoring die (waarschijnlijk) leidt tot aanzienlijke schade voor die persoon of een ander. Het is denkbaar dat een klein aantal soorten deepfakes hieronder vallen, zoals bijvoorbeeld deepfakes die worden gebruikt voor fraude. Dit is echter niet expliciet zo genoemd: het blijft dus vaag wanneer een deepfake verboden kan worden volgens artikel 5 AI Act.
Deepfake-technologie wordt in de AI Act dus niet in de eerste plaats verboden, maar onderworpen aan transparantieverplichtingen. De effectiviteit van dat regime is begrensd, omdat artikel 50 zich richt tot aanbieders en deployers en het deployerbegrip privégebruik uitzondert. Particulier verspreide deepfake content blijft dus buiten de openbaringsplicht.
DSA
Waar de AI Act zich richt op makers van deepfakes, richt de DSA zich op platforms als verspreiders van content. De DSA bevat geen eigen definitie van deepfakes, maar bredere begrippen. In overweging 84 wordt gesproken over niet authentiek gebruik dat bijdraagt aan desinformatie. Bepaalde deepfake toepassingen, zoals het gebruik voor het plegen van fraude, zouden kunnen vallen onder ‘illegale content’ (artikel 3 onder h DSA).
Voor zeer grote online platforms en zoekmachines legt de DSA vooral procesverplichtingen op. Artikel 34 verplicht hen om ‘systemische risico’s’ te identificeren. Denk aan algoritmes die invloed hebben op de verspreiding van illegale content. Platforms moeten kritisch kijken naar hun aanbevelingssystemen, moderatiepraktijken en advertentie-infrastructuur. Artikel 35 verplicht om maatregelen te nemen tegen de geïdentificeerde risico’s. In het kader van deepfakes ligt daar dus ruimte voor bijvoorbeeld het investeren in deepfake detectie of het verbeteren van notice-and-action-systemen.[10] Tegelijk zegt de DSA expliciet dat die maatregelen grondrechten moeten respecteren. Dat maakt het ingewikkeld: platforms moeten ingrijpen, maar mogen niet te veel of te grof modereren.
De DSA kent dus geen algemene transparantieplicht voor deepfakes. Alleen artikel 39, over advertenties, bevat concrete verplichtingen. Platforms moeten een advertentieregister bijhouden met daarin de inhoud van de advertentie, wie erachter zat, wie betaalde, hoe lang zij liep, de doelgroep en het bereik. Dat komt niet neer op een deepfake-labelplicht: de bepaling zegt niets over de vraag of een advertentie synthetische content bevat. Wel vergroot artikel 39 de transparantie over de herkomst en verspreiding van (politieke) advertenties.
Hoewel de DSA zich wel richt op het punt waar deepfakes maatschappelijke schade aanrichten (de verspreiding via grote onlinediensten), mist deze wet concrete regels rondom deepfakes. Het wordt aan platforms zelf overgelaten om te beoordelen wanneer een deepfake slechts vreemde content is, en wanneer zij uitgroeit tot een ‘systemisch risico’.
AVG
Dan de AVG. Die blijft hier op de achtergrond, maar is wel belangrijk. Bij het opsporen van deepfakes worden vaak gezichtsbeelden/uitdrukkingen en stemkenmerken geanalyseerd. Deze vallen onder de definitie van biometrische gegevens onder de AVG. Verwerking daarvan voor unieke identificatie is in beginsel verboden. Deepfake-detectieactiviteiten vallen vaak rechtstreeks binnen het toepassingsbereik van de AVG; dat bemoeilijkt de inzet van deepfake detectie op grote schaal. In mijn volgende artikel zoom ik daar verder op in: welke detectietechnologieën bestaan er, en hoe werkt handhaving in de praktijk?
Conclusie
De Europese puzzel is dus nog niet af. De AI Act maakt deepfakes vooral zichtbaar via transparantieverplichtingen, maar labeling voorkomt niet dat deepfakes worden gemaakt en verspreid. De DSA zet grote platforms onder druk om systemische risico’s van misleidende content te beperken, maar noemt deepfakes niet expliciet. De AVG bewaakt intussen de grenzen van de detectiemiddelen die daarvoor nodig zijn. Samen vormen deze regels een begin, maar nog geen sluitend antwoord.
In de praktijk zal het er daarom op aankomen dat platforms, aanbieders en gebruikers van AI-toepassingen zelf verantwoordelijkheid moeten nemen. Daarnaast moet worden geïnvesteerd in middelen om deepfakes sneller te detecteren. Juist daar zit een grote uitdaging: deepfake-technologie ontwikkelt zich razendsnel en detectiemiddelen moeten voortdurend mee. Er is sprake van een technologische wapenwedloop, waarin makers van synthetische content en ontwikkelaars van detectietools elkaar steeds proberen te slim af te zijn.[11] In een volgend artikel kijk ik daarom niet meer alleen naar de regels, maar juist naar de handhaving en de detectiemiddelen zelf.
Hulp nodig?
Heeft u vragen over het bovenstaande of behoefte aan praktisch advies op het gebied van privacy en gegevensbescherming? Neem gerust contact op via famke.algera@lexdigitalis.nl voor meer informatie.
Voetnoten
[1] Van der Sloot, Wagensveld en Koops, ‘Deepfakes: de juridische uitdagingen van een synthetische samenleving’, Tilburg University, november 2021, geraadpleegd via https://www.tilburguniversity.edu/sites/default/files/download/Deepfakes%20NL.pdf.
[2] Zoals bijvoorbeeld de gemanipuleerde video waarin president Zelensky ogenschijnlijk oproep tot overgave.
[3] Medewerkers van grote bedrijven worden dikwijls in (video)calls met ‘collega’s’ misleid om intellectuele eigendom of geld over te dragen.
[4] Van der Sloot, Wagensveld en Koops, ‘Deepfakes: de juridische uitdagingen van een synthetische samenleving’, Tilburg University, november 2021, geraadpleegd via https://www.tilburguniversity.edu/sites/default/files/download/Deepfakes%20NL.pdf.
[5] Het voorstel voor de Wet naburig recht deepfakes van personen.
[6] Artikel 3 lid 60 AIA.
[7] ‘machineleesbare markeringen’ zijn technische signalen in of bij de content die software kan uitlezen. Watermarking en metadata-based solutions zijn hier voorbeelden van. Deze markeringen zijn niet zichtbaar voor een mens, maar een platform, detector of ander systeem kan ze wel herkennen.
[8] Maar wanneer de deepfake een duidelijk artistiek, creatief, satirisch, fictief of vergelijkbaar werk of programma is, dan hoeft niet per se elk frame of bestand op een storende manier gelabeld te worden.
[9] Artikel 5 lid 1 onder a AIA.
[10] Felipe Romero Moreno, Deepfake detection in generative AI: A legal framework proposal to protect human rights, september 2025, geraadpleegd van https://www.sciencedirect.com/science/article/pii/S2212473X25000355?via%3Dihub#ack0001.
[11] Onderzoek tussen 2023 en 2024 wees op een toename van 223% in de handel op het dark web in tools voor het maken van deepfakes (in één jaar): https://www.accenture.com/us-en/blogs/security/beyond-illusion-unmasking-real-threats-deepfakes.
Gerelateerde artikelen
