Het Europees Parlement stemt met een ruime meerderheid voor de AI Act. Deze Europese wetgeving moet het gebruik van AI in goede banen leiden. Onder meer door te zorgen dat het gebruik van AI in de EU volledig in lijn is met Europese wetgeving en waarden op het gebied van toezicht, veiligheid, privacy, antidiscriminatie en sociaal welzijn.

Onderdeel van de wet is onder meer een verbod op het gebruik van AI voor biometrische surveillance, het herkennen van emoties en zogenaamd voorspellend beleid. Ook moeten generatie AI-systemen als ChatGPT, Bing AI en Bard duidelijk vermelden dat content door AI is gegeneerd. AI-systemen bedoeld voor het beïnvloeden van stemmers tijdens verkiezingen worden gezien als hoog-risico systemen.

De wet is met een ruime meerderheid aangenomen, met 499 stemmen voor, 28 stemmen tegen en 93 onthoudingen. Dit maakt de weg vrij voor het Europees Parlement om met EU-lidstaten in gesprek te gaan over de definitieve vormgeving van de AI Act.

Aanpassingen
De wet is door het Europees Parlement op enkele punten aangepast. Het gaat daarbij onder meer om:

• het gebruik van realtime systemen voor biometrische identificatie op afstand in openbaar toegankelijke ruimtes;
• de inzet van systemen voor ‘post’ biometrische identificatie op afstand, met als enige uitzondering rechtshandhaving voor de vervolging van ernstige misdrijven. In dit laatste geval mogen systemen alleen na gerechtelijke toestemming worden ingezet;
• het toepassen van biometrische categoriseringssystemen die gebruik maken van gevoelige kenmerken zoals geslacht, ras, etniciteit, staatsburgerschap, religie, politieke oriëntatie;
• het gebruik van voorspellende politiesystemen op basis van profilering, locatie of crimineel gedrag in het verleden;
• de toepassing van emotieherkenningssystemen bij wetshandhaving, grensbeheer, de werkplek en onderwijsinstellingen;
• het ongericht ‘scrapen’ van gezichtsbeelden van internet of camerabeelden om databases voor gezichtsherkenning aan te maken in strijd met mensenrechten en recht op privacy.

Lijst met risicovolle AI-systemen uitgebreid
Ook is de omschrijving van risicovolle AI-systemen uitgebreid. Dit omvat nu onder meer systemen die een significant risico opleveren voor de gezondheid, veiligheid, fundamentele rechten of omgeving van mensen. Ook systemen die stemmers tijdens verkiezingen beïnvloeden zijn opgenomen op de lijst.

Providers van zogeheten foundation models moeten mogelijke risico die hun modellen met zich meebrengen identificeren voordat zij deze op de markt mogen brengen. Ook moeten zij hun modellen registreren in een Europese database. Generatieve AI-systemen moeten daarnaast meer transparantie gaan bieden en maatregelen nemen tegen het genereren van illegale content. Ook moeten zij tot in details bijhouden welk auteursrechtelijk beschermd materiaal zij gebruiken voor trainingsdoeleinden.

Uitzonderingen voor onderzoek en opensource AI
Daarnaast zijn uitzonderingen opgenomen in de AI Act bedoeld om onderzoeksactiviteiten en AI-componenten die opensource beschikbaar zijn te beschermen. Ook promoot de wetgeving het gebruik van zogenaamde ‘regulatorische sandboxes’ of praktijkomgevingen die door publieke autoriteiten worden opgezet voor het testen van AI voordat deze wordt uitgerold.

Tot slot wil het Europees Parlement Europese burgers meer rechten geven voor het indienen van klachten over AI-systemen en het verkrijgen van uitleg over beslissingen die zijn genomen op basis van risicovolle AI-systemen die hun fundamentele rechten significant raken. Het EU AI Office gaat de implementatie van de AI-regelgeving monitoren.

Petra Claessen, Vice-voorzitter BTG en boardmember BTG Services: “Met de AI Act zet de EU een belangrijke stap in het reguleren van de snelle opkomst en ontwikkeling van AI. Belangrijk, want hoewel AI grote kansen biedt zijn er ook risico’s aan de technologie verbonden. De AI Act helpt deze risico’s te mitigeren en de ontwikkeling in goede banen te leiden. Zo stellen we zeker dat zowel het bedrijfsleven als de maatschappij optimaal kan profiteren van de mogelijkheden en kansen die AI biedt. Nu het Europees Parlement akkoord is met de AI Act, kan het in gesprek gaan met EU-lidstaten over de definitieve invulling van de AI Act.”