Europese Commissie schetst contouren regulering artificiële intellegentie

1. Een gecoördineerde aanpak vanuit Europa

De Commissie erkent in de whitepaper de mogelijkheden die AI biedt voor de digitale economie. Daarnaast toont het de Europese visie op het gebied van hoe AI gecoördineerd kan worden ontwikkeld, met als doel om de EU een belangrijke speler op dit veld te maken. Hiervoor worden een aantal initiatieven voorgesteld, onder meer om MKB’ers toegang te verschaffen tot AI-oplossingen. Ook wordt er gesproken over samenwerking met de private sector en toegang tot data-infrastructuur volgens de FAIR-beginselen (Findability, Accessibility, Interoperability en Reusability).

2. Nieuwe algoritmetoezichthouder

Om te zorgen voor een veilige samenleving waar het gebruik risicovolle AI kan worden overzien, stelt de Commissie voor om een algoritmetoezichthouder in het leven te roepen. Het Nederlandse kabinet ziet hier weinig in: zij stelt dat een nieuwe algoritmetoezichthouder te veel overlap met andere toezichthouders zoals de Autoriteit Persoonsgegevens zou hebben en dat er geen noodzaak is die vraagt om zo een nieuwe toezichthouder.

3. Regulering van systemen met een hoog risico

De EU-regulering gaat zich vooral focussen op AI met een ‘hoog risico’. Of een AI-systeem hieronder valt, toetst de Commissie aan twee punten:

• Of in de sector waarin de AI wordt gebruikt, hoge risico’s verwacht kunnen worden. Als voorbeelden worden hierbij de zorg, energie en transport genoemd;
• Of het gebruik van de AI tot risico’s leidt. Onder deze risico’s wordt bijvoorbeeld verstaan handelingen die tot (immateriële) schade kan leiden, of handelingen die onomkeerbaar zijn.

Naast dit systeem heeft de Commissie vastgelegd dat voor uitzonderlijke gevallen kan worden afgeweken van het systeem. Dat is het geval als er een AI toepassing plaatsvindt die per definitie risicovol is, onafhankelijk van in welke sector de AI wordt toegepast. Voorbeelden die hierbij worden gegeven, zijn het gebruik van AI bij biometrische identificatie, het gebruik van AI in recruitment waarbij mogelijk gediscrimineerd wordt, of ingrijpende surveillance technologieën.

Het kabinet heeft twijfels bij dit systeem en stelt dat afbakening van sectoren moeilijk is vanwege de overlap die in de praktijk plaatsvindt. Ook wijst het kabinet op het juridische verschil dat zal ontstaan door hetzelfde AI-systeem enerzijds in een high risk-sector te gebruiken en anderzijds in een sector buiten deze definitie.

4. Verplichte toestemming vooraf

Voor systemen met een hoog risico moet vooraf verplicht toestemming worden gevraagd aan een publiek orgaan. De Europese Commissie geeft aan dat bijvoorbeeld een toezichthouder deze toestemming kan verschaffen. Deze zal beoordelen of de inzet van de AI überhaupt toelaatbaar is gezien de risico’s die eraan vast zitten. Ook zal er aan een aantal vereisten moeten worden voldaan met betrekking tot de data waarmee wordt getraind, de documentatie hiervan, de meldplicht aan gebruikers en de mogelijkheid tot menselijke tussenkomst.

5. Vrijwillige procedure voor systemen met een laag risico

Voor het gebruik van AI met lagere risico’s stelt de Commissie een vrijwillig systeem voor. De aanbieders van systemen met lagere risico’s kunnen hiermee dezelfde toestemmingsprocedure doorlopen en een kwaliteitslabel verkrijgen dat gemakkelijk te herkennen is door consumenten. Dit klinkt mooi, maar hier kunnen wel haken en ogen aan zitten. Zo kan het bijvoorbeeld dat organisaties die voldoende financiële middelen hebben, makkelijker aan de vereisten kunnen voldoen dan organisaties die deze middelen niet hebben. Hiermee tonen zij AI-verantwoord bezig te zijn en hebben ze een voordeel ten opzichte van de concurrent, terwijl het voordeel voor de consument in de praktijk minimaal is.

Voorlopig nog geen wetgeving

Met de whitepaper is de eerste stap gezet naar regulering van AI. De Europese Commissie gaat nu aan de slag met de input van overheden, bedrijven en andere belanghebbenden, die tot 19 mei konden reageren. Verwacht wordt dat de Commissie in 2021 met een verder uitgewerkt voorstel komt. In elk geval is de koers van de Commissie gezet en weten we nu in grote lijnen hoe zij regulering voor zich ziet.

Meer weten? Stel dan je vraag via legal@ddma.nl. Dan kijken we graag met je mee.

Sander Kruit

Voormalig Juridisch stagiair bij DDMA