Een grote meerderheid van het Europees Parlement schaart zich in een eerste stemming over de European AI Act in een grote meerderheid achter de nieuwe wetgeving. De wetgeving moet zeker stellen dat kunstmatige intelligentie (AI) in de EU op een verantwoorde wijze wordt gebruikt.

Het gaat om een stemming in de Internal Market Committee and the Civil Liberties Committee, een vakcommissie van het Europees Parlement. Deze stemde met 84 stemmen voor en 7 stemmen tegen met een grote meerderheid voor de wetgeving.

Risicogroepen
De AI Act deelt AI-systemen op in risicogroepen. Het overgrote deel van de regelgeving die in de wet is vastgelegd heeft betrekking op AI-systemen die in de hoogste risicogroep vallen. Ook moet er een keurmerk komen voor deze risicovolle AI-systemen, die alleen nog op de Europese markt mogen verschijnen indien zij aan de eisen voldoen.

Een deel van de AI-systemen wordt verboden. Het gaat dan onder meer om systemen die het gedrag van mensen beoordeelt of in realtime gebruik maakt van biometrische identificatie.

Altijd menselijk toezicht
De wetgeving moet onder meer zeker stellen dat er altijd menselijk toezicht is op AI-systemen, die veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk moeten zijn. Dit betekent onder meer dat het voor gebruikers altijd duidelijk moet zijn dat zij met een AI te maken hebben. Ook moet de werking van een AI-systeem altijd duidelijk zijn. Daarnaast moet de wet leiden tot een uniforme definitie van ’technologie-neutrale’ AI.

In de wetgeving is ook specifiek aandacht voor zogeheten ‘foundation models’, het fundament waarop AI-tools zijn gebouwd. Ontwikkelaars van dergelijke modellen moeten onder meer een robuuste bescherming van de rechten, gezondheid, veiligheid, het milieu, de democratie en de rechtsgang garanderen. Dit betekent onder meer dat zij risico’s moeten beoordelen en mitigeren, moeten voldoen aan eisen op het gebied van ontwerp, informatie en milieu-impact, en zich moeten registreren in een Europese database.

Plenaire stemming
Komende maand volgt een plenaire stemming in het Europees Parlement over de European AI Act. Indien het Europees Parlement zich hierbij positief uitspreekt over het voorstel, kunnen de onderhandeling tussen het Europees Parlement en de Europese Raad over de exacte invulling van de wet van start gaan. Dit moet leiden tot een definitieve wet begin 2024.

Petra Claessen, vice-voorzitter BTG en boardmember BTG Services: “De AI Act is een grote stap naar het adequaat reguleren van AI. Belangrijk, want hoewel AI grote kansen biedt zijn er ook allerlei risico’s aan verbonden. De AI Act leidt de ontwikkeling van AI in goede banen en mitigeert waar mogelijk de verbonden risico’s. Zo kan het Europese bedrijfsleven maximaal profiteren van de kansen en voordelen van AI.”