Dit blogartikel is het achtste onderdeel van een reeks waarin wij de AI-verordening en het gebruik van AI-systemen bespreken. In deze blog gaan wij in op AI en handhaving. Over twee weken zal het negende onderdeel van de reeks verschijnen. Onderaan dit artikel vindt u de links naar de overige artikelen.
AI blogreeks deel VIII – AI en handhaving
De AI-verordening bevat verplichtingen voor het verantwoord ontwikkelen en gebruiken van AI-systemen. Om te zorgen dat iedereen zich aan deze verplichtingen houdt, zijn er ook regels opgenomen over toezicht en handhaving. In deze blog gaan wij in op deze regels en hoe ze in de praktijk (moeten) worden toegepast.
Handhaving op Europees niveau
De AI-verordening brengt zowel op Europees als op nationaal niveau veranderingen met zich mee op het gebied van toezicht en handhaving.
Het AI-bureau
Binnen de Europese Commissie is het Bureau voor artificiële intelligentie (AI-bureau) opgericht. Het bureau is een experticecentrum op het gebied van AI, gericht op het ondersteunen van lidstaten bij het uitvoeren van hun taken. Ook stelt het bureau richtlijnen op en houdt het toezicht op algemene AI-systemen. Het AI-bureau werkt nauw samen met de lidstaten en de Europese AI-raad.
De AI-raad
De AI-raad is een adviesorgaan dat bestaat uit één vertegenwoordiger van elke lidstaat. Ook de Europese Toezichthouder voor gegevensbescherming en het AI-bureau nemen deel aan de vergaderingen. De belangrijkste taak van de AI-raad is het adviseren van de Europese Commissie en de lidstaten bij het toepassen en uitvoeren van de AI-verordening.
Handhaving op nationaal niveau
De AI-verordening bevat ook bepalingen voor toezicht op nationaal niveau. Elke lidstaat moet ten minste één aanmeldende autoriteit en ten minste één markttoezichtautoriteit aanwijzen. De aanmeldende autoriteit is verantwoordelijk voor de aanwijzing van de conformiteitsbeoordelingsinstanties. De markttoezichtautoriteit is verantwoordelijk voor het toezicht op die specifieke markt en beschikt over handhavingsbevoegdheden. Daarnaast moeten grondrechtentoezichthouders vastgesteld worden.
Nederland is druk bezig met het voorbereiden op de inrichting van het toezicht op naleving van de AI-verordening. De Rijksinspectie Digitale Infrastructuur (RDI) en de Autoriteit Persoonsgegevens (AP) hebben adviezen uitgebracht aan het kabinet met betrekking tot hoe het toezicht geregeld zou kunnen worden.
Markttoezichtautoriteit(en)
In Nederland wordt de AP waarschijnlijk de centrale markttoezichtautoriteit, vooral vanwege de kennis van de AP over het beschermen van de persoonsgegevens. Binnen de AP is bovendien een speciale afdeling opgericht, de Directie Coördinatie Algoritmes (DCA), die toezicht houdt op algoritmes en AI in Nederland. Ook wordt geadviseerd de AP als markttoezichtautoriteit aan te wijzen voor alle verboden AI-systemen en voor de meeste AI-systemen met een hoog risico.
Met betrekking tot AI-systemen met een hoog risico waarvoor geen conformiteitsmarkering verplicht is, zal waarschijnlijk de AP de markttoezichtautoriteit worden. Dit is slechts anders op de sectoren waar de Autoriteit Financiële Markten, De Nederlandsche Bank en de RDI toezichthouders zijn. Deze toezichthouders worden voor hun verschillende toepassingsgebieden zelf voorgesteld als markttoezichtautoriteiten. Een goede samenwerking tussen de sectorale toezichthouders en de markttoezichtautoriteiten is echter belangrijk om de juiste risicoafweging maken in het kader van de maatschappelijke impact van AI.
Voor wat betreft het toezicht op AI-systemen met een hoog risico waarvoor een conformiteitsmarkering verplicht, wordt waarschijnlijk aangesloten bij het al bestaande reguliere toezicht. Dit betekent bijvoorbeeld dat de Nederlandse Voedsel- en Warenautoriteit (NVWA) speelgoed blijft keuren waar AI in verwerkt zit en de Inspectie Gezondheidszorg en Jeugd (IGJ) toezicht gaat houden op AI in medische apparatuur.
Grondrechtentoezichthouders
De AI-verordening kent een bijzondere rol toe aan autoriteiten voor de bescherming van grondrechten, oftewel grondrechtentoezichthouders. De grondrechtentoezichthouders zien toe op mogelijke schendingen van fundamentele rechten. In Nederland zullen vermoedelijk het College voor de Rechten van de Mens (CRM) en de AP daarvoor worden aangewezen.
Later dit jaar publiceren de RDI en AP een definitief eindadvies over de inrichting van het toezicht op de AI-verordening. Hierna zal een wetsvoorstel volgen om de toezichtinrichting vast te leggen in een uitvoeringswet.
Boetes
De bevoegde markttoezichtautoriteiten handhaven de regels uit de AI-verordening, onder meer door het opleggen van boetes. Niet-naleving van de AI-verordening kan leiden tot hoge boetes. Deze kunnen oplopen tot maar liefst 35 miljoen euro of 7% van de wereldwijde jaaromzet.
Vragen over handhaving en de AI-verordening
Heeft u naar aanleiding van deze blog een vraag? Neem dan contact op met Alexandra van Beelen of Hester Ellemers.
Dit blogartikel is onderdeel van een reeks waarin wij de AI-verordening en het gebruik van AI-systemen bespreken. Klik hieronder om de overige delen van deze reeks te lezen.
Verboden AI-systemen (Deel II)
AI-systemen met een hoog risico (Deel III)
Verplichtingen gebruiksverantwoordelijken (Deel IV)
