Stapje dichter bij Europese AI-wet, akkoord komt pas in 2024
Hoe houden we kunstmatige intelligentie (AI) onder controle? In Brussel wordt al twee jaar gewerkt aan regels die het gebruik van AI in goede banen moeten leiden. Maar het duurt nog even voordat de richtlijnen er zijn, terwijl de ontwikkelingen elkaar in rap tempo opvolgen.
Kunstmatige intelligentie vind je niet alleen in het populaire ChatGPT en kunstgeneratoren, zoals DALL-E en Midjourney. De technologie zit al diep in computersystemen waar we allemaal mee te maken hebben. Denk maar eens aan hoe Facebook en Instagram bepalen wat je als eerste op je tijdlijn te zien krijgt. Of aan hoe je met assistenten als Siri en Google Assistent praat.
Om te zorgen dat AI blijft werken zoals we willen, zijn regels nodig. Die komen in de AI-wet (of AI Act) te staan waar Europa nu over debatteert. De Europese Commissie werd het eind vorig jaar eens over een wetsvoorstel, waarover het Europees Parlement nu verder onderhandelt.
In het voorstel staat al dat AI-systemen worden ingedeeld op basis van risico’s. Sommige kunstmatige intelligentie willen we helemaal niet hebben in Europa. Denk aan programma’s die burgers kunnen beoordelen op hun gedrag, zoals in China gebeurt. Andere systemen leiden wel tot een hoog risico op misbruik, maar zijn niet direct onaanvaardbaar. Deze vormen van AI moeten door een strenge keuring voordat ze in Europa uitgebracht mogen worden.
Algoritmes die cv’s van sollicitanten doorspitten moeten bijvoorbeeld aan bepaalde eisen voldoen, zodat ze bijvoorbeeld niet discrimineren. Hetzelfde geldt voor programma’s die met rechtspraak of medische apparaten te maken hebben.
AI moet transparant en menselijk
In het wetsvoorstel van het Europees Parlement staan een paar aanvullingen. Zo moeten er ook controles komen op het gebruik van AI, niet alleen op het ontwerp van de systemen. “Het algoritme van het toeslagenschandaal deed in de basis wat het moest doen”, zegt Europarlementariër Kim van Sparrentak (GroenLinks) tijdens een persbriefing. “Maar in de praktijk hielp het mensen de vernieling in.”
Het Parlement pleit ervoor dat AI geen mensenrechten schendt. Dat moet vooraf worden getoetst. Daarnaast staat in het wetsvoorstel dat het voor mensen altijd duidelijk moet zijn dat ze met AI te maken hebben. Ben je in gesprek met een chatbot, dan moet daar transparantie over zijn.
Transparantie is sowieso een sleutelwoord in het wetsvoorstel. Bedrijven moeten kunnen aantonen hoe hun AI precies werkt. Op het moment is bijvoorbeeld onduidelijk hoe ChatGPT achter de schermen werkt. Zo weten we niet precies met welke data het programma is getraind en op basis van welke informatie antwoorden worden opgesteld.
Dat moet veranderen, anders kunnen de systemen niet aan de Europese wetgeving worden getoetst. Bedrijven die niet transparant zijn over hun AI, mogen de markt niet op of moeten aanpassingen maken.
