"AI is een groeiende golf die snel op ons afkomt", zei D66-Kamerlid Hind Dekker-Abdulaziz deze week tijdens een commissiedebat in de Tweede Kamer. "We moeten dit jaar knopen doorhakken over de regelgeving. Alleen dan kunnen we meesurfen met de kansen die AI biedt", zegt ze. "Anders dendert de golf over ons heen."

De vernieuwingen op het gebied van kunstmatige intelligentie of AI gaan snel. In Nederland worden honderden miljoenen geïnvesteerd in de ontwikkeling van kunstmatige intelligentie. De overheid stimuleert kennis en talent. Maar het kabinet zegt waakzaam te zijn op de mogelijke keerzijde van de technologie.

Staatssecretaris Alexandra van Huffelen (Digitalisering) deelt de zorgen van Kamerleden die zeiden dat AI-systemen kunnen werken met (onbewust toegevoegde) vooroordelen waarmee ze zijn getraind. Daarmee ligt discriminatie op de loer.

In het verleden ging dat al een aantal keer helemaal mis. Het bekendste voorbeeld is het toeslagenschandaal. De Belastingdienst gebruikte algoritmes die fraude moesten aanpakken. Maar daarbij werd etnisch geprofileerd, waardoor tienduizenden mensen onterecht als fraudeur werden bestempeld.

In Nederland controleert een nieuwe afdeling van de privacywaakhond Autoriteit Persoonsgegevens (AP) of de AI van bedrijven en organisaties wel volgens de regels werkt. "We willen zorgen dat ongelijkheid, vooroordelen en discriminatie geen deel uitmaken van AI-systemen en de datasets waarmee de systemen worden getraind", zei Van Huffelen.

Om de bescherming van mensenrechten te staven, worden organisaties en bedrijven verplicht daar onderzoek naar te doen. Dat moet gebeuren voordat een AI-model wordt ingezet. Volgens de staatssecretaris wordt dit een "stevige toets" die boven op de bestaande privacytoetsen komt.

In Nederland bestaat al een Algoritmeregister. Overheidsorganisaties publiceren daar de algoritmes die ze in hun werk gebruiken. Daarmee moet het voor iedereen transparant en controleerbaar zijn hoe de programma's in elkaar zitten.

Het register wordt verplicht, maar is dat nu nog niet. "De verplichting komt op zijn vroegst in 2024", zegt de Van Huffelen. "Maar er moeten keuzes gemaakt worden die aansluiten op wat er op Europees niveau wordt afgesproken. Bijvoorbeeld over welke informatie in het register moet worden opgenomen."

Het komende jaar werkt de Europese Unie aan een verordening voor kunstmatige intelligentie, de AI Act. Daarin komen basisafspraken te staan over waaraan AI-systemen in de EU moeten voldoen voordat bedrijven en organisaties ze mogen gebruiken. Het Europees Parlement en de Europese Commissie onderhandelen op dit moment over de precieze invulling van de wet.

AI-systemen moeten door de wet aan bepaalde verplichtingen voldoen. Zo komt er een strenge keuring voor systemen met een 'hoog risico' op misbruik. Daaronder vallen bijvoorbeeld AI-programma's die invloed kunnen hebben op de kansen van mensen op de arbeidsmarkt. Of programma's die te maken hebben met de rechtspraak of medische apparaten.

Ethische kwesties rondom AI kunnen het beste op Europees niveau worden behandeld, zegt VVD-Kamerlid Queeny Rajkowski. "Het heeft geen zin om dat apart per land te doen", zegt ze. Als er Europese regels zijn, kan er steviger opgetreden worden tegen kwalijke software. Ook hoeft AI niet per land worden aangepast aan lokale regels.

Wel wordt in Nederland geworsteld met een vraagstuk over de milieu-impact van AI. "We maken ons zorgen over het energieverbruik", zegt minister Micky Adriaansens (Economische Zaken en Klimaat). "Het trainen van AI kost veel computerkracht vanuit datacenters. We moeten daarom besparende maatregelen treffen."

Maar Adriaansens benoemt ook de andere kant van de medaille. "We gebruiken AI ook om klimaatvraagstukken op te lossen", zegt ze. "AI kan warmtenetten efficiënter maken en zorgen voor minder warmteverlies. Maar de zorgen zijn terecht."

Wat de precieze effect van AI op het energieverbruik is, wordt de komende tijd onderzocht. Later dit jaar komt de minister met meer informatie.