Vertrekkend AP-baas Aleid Wolfsen: ‘Mensen gooien hun hele leven in chatbots en krijgen het nooit meer terug’
We hebben in Europa de beste bescherming van grondrechten ter wereld, stelt de vertrekkende voorzitter van de Autoriteit Persoonsgegevens, Aleid Wolfsen. ‘Dat moeten we koesteren.’
In het bijna twee uur durende interview geeft Wolfsen verrassend weinig prijs over zijn privéleven. Als hem iets is duidelijk geworden in de afgelopen tien jaar, dan is het wel hoe kostbaar persoonlijke gegevens zijn.
Data als grondstof voor AI
Dat wil niet zeggen dat de digitale samenleving nu veilig en op orde is. Het meest zorgen maakt de voorzitter zich over de komst van kunstmatige intelligentie (AI). Daardoor is de waarde van data nog hoger geworden; het is de grondstof waarop de machines worden getraind.
Dat besef is nog níet helemaal doorgedrongen, zegt de AP-baas. “Mensen gooien hun hele hebben en houden in die chatbots, maar die gegevens krijg je er nooit meer uit. En het maakt de techbedrijven zeer machtig en invloedrijk. Wat je ten goede kunt gebruiken kun je ook op een slechte manier inzetten.”
Ja, de Autoriteit Persoonsgegevens loopt soms achter de feiten aan. De ontwikkelingen op digitaal vlak gaan sneller dan de wetgever kan bijbenen, en daar is een toezichthouder van afhankelijk. Bij systemen die al in gebruik zijn, is de situatie de afgelopen tien jaar flink verbeterd, denk aan de Algemene Verordening Gegevensbescherming (AVG) die in 2016 werd aangenomen, en verschillende Europese wetten zoals de DMA en DSA.
Maar de Europese AI-wet is nog niet volledig ingevoerd en die heeft de AP als toezichthouder wel nodig om te voorkomen dat gevaarlijke systemen worden toegelaten tot de markt. Denk bijvoorbeeld aan gezichtsherkenningsprogramma’s.
“Als Trump het wil, ligt morgen de hele overheid en het bedrijfsleven stil.”
Controleren voor er klachten komen
Toch heeft de AP best veel macht om bedrijven op het matje te roepen, zegt Wolfsen. “We hoeven niet te wachten tot het misgaat en er klachten komen. We hebben de bevoegdheid om bij bedrijven langs te gaan en te controleren of de zaken op orde zijn. Ook als er geen klachten zijn.”
Coronacrisis als accelerator
De Toeslagenaffaire heeft ons geleerd hoe systemen kunnen leiden tot massale discriminatie
“Er gingen verschillende dingen mis. Er was een groot datalek bij de GGD, mensen die daar werkten bleken in alle systemen te kunnen. Ook waren er allerlei werkgevers die voor dokter gingen spelen en alles van hun werknemers wilden weten om te controleren of ze ziek waren.
Toen kwamen die covid-apps en wilden mensen weten of Apple dan ook kon meekijken. En toen dreigde er ook nog een wet te komen die de locatiegegevens van telefoons via telecomproviders zou koppelen zodat de politie kon controleren of mensen niet met te veel samenkwamen. Daar hebben we toen een stokje voor gestoken, die wet is er niet gekomen.”
Een andere prominente crisis was de toeslagenaffaire. Die heeft ons geleerd hoe systemen kunnen leiden tot massale discriminatie, zegt Wolfsen. “Als een mens een keer discrimineert, dan is het één keer. Bijvoorbeeld een agent die op straat iemand etnisch profileert. Maar als een computer discrimineert, dan is het massaal.”
Het aantal klachten is de afgelopen jaren enorm gestegen, de AP krijgt jaarlijks zo’n 13.500 meldingen van mogelijke overtredingen. De oorzaak zit in de digitalisering van de maatschappij, maar ook in het aantal digitale incidenten en massale datalekken dat de afgelopen jaren flink is gestegen. “We kunnen dat tempo niet bijhouden.”
Problemen die tien jaar geleden speelden zijn nog steeds relevant. Bijvoorbeeld cameratoezicht, waar nog altijd een groot deel van de klachten over gaat. Alleen gaat het nu niet meer alleen over de glazen bollen op kruispunten en in winkelstraten, maar ook over de deurbelcamera van de buurman.
Europese emancipatie
De meest recente crisis waardoor Europa tot het besef is gekomen hoe belangrijk databescherming en digitale onafhankelijkheid zijn, is het aantreden van Trump geweest. Europa moet emanciperen zodat we weer zelf zeggenschap hebben over wat er met onze gegevens gebeurt, zegt Wolfsen. “Als Trump het wil, ligt morgen de hele overheid en het bedrijfsleven stil.”
De voorzitter wijst op recente voorvallen met onder meer een rechter van het Internationaal Strafhof in Den Haag die niet meer bij zijn e-mail kon en het op zwart gaan van Anthropic’s AI-chatbot Claude Fable. De Amerikaanse regering verbood de nieuwste versie van deze chatbot voor niet-Amerikaanse gebruikers, omdat die een gevaar zou zijn voor de Amerikaanse nationale veiligheid.
Doorn in het oog van de techlobby
Voor die Europese emancipatie is het volgens de AP-baas zeker niet nodig om de wetten en regels die we hebben af te zwakken, zoals de techlobby vaak bepleit. Databescherming gaat volgens Wolfsen over fundamentele mensenrechten en de AVG is de ‘hoeder’ van deze grondrechten.
Die AVG kwam tien jaar geleden moeizaam tot stand en was een doorn in het oog van met name de Amerikaanse techlobby die de regels vooral als hindernis zag.
Ook veel Europese bedrijven vervloekten de AVG aanvankelijk, maar volgens Wolfsen is die houding inmiddels gedraaid. “We zijn nu zo’n tien jaar verder en ook volgens grote bedrijven is er prima te werken met de open normen van de AVG. Je moet alleen uitleggen hoe het werkt.”
We moeten het EU-recht koesteren, stelt de vertrekkende voorzitter, omdat het ‘de meest moderne en complete grondrechten-catalogus is die er bestaat’. “We hebben hier de beste bescherming van grondrechten, zoals vrijheid en democratie, gelijke behandeling, toegang tot de rechter en menselijke integriteit. We moeten oppassen dat we niet het kind met het badwater weggooien.”
Als de AP grensoverschrijdende dataverwerking constateert, volgt er meestal eerst een waarschuwing. Daarna kan de waakhond boetes opleggen en dat gebeurt ook regelmatig. De hoogste boete die de AP tot nu toe heeft uitgedeeld was aan de digitale taxibemiddelaar Uber: 290 miljoen euro.