Inleiding
Op 21 april 2021 heeft de Europese Commissie een nieuw plan (een ontwerpverordening) op tafel gelegd ter harmonisering van regels op het gebied van kunstmatige of artificiële intelligentie (“AI”). Dit alles met het idee om van Europa een goed georganiseerd geheel te maken wat betreft AI.
De Europese Commissie liep al langer met het idee om AI te reguleren en nu is dan daadwerkelijk de kop eraf. Maar hoe zit deze ontwerpverordening in elkaar en welke stappen moeten nog worden genomen totdat de regelgeving bindend wordt?
Hoofdlijnen ontwerpverordening
De ontwerpverordening is gebaseerd op een risico-afhankelijke aanpak van AI-systemen. Hierbij wordt onderscheid gemaakt in vier categorieën van risico’s. Afhankelijk van de grootte van het risico van een bepaald AI-systeem zullen strenge(re) eisen worden gesteld waaraan de systemen moeten voldoen.
Bepaalde systemen zullen zelfs in hun geheel niet mogen worden gebruikt. Dit laatste is bijvoorbeeld het geval bij systemen die gebruikt worden door kwetsbare groepen in de samenleving. Een goed voorbeeld betreft pratend speelgoed voor kinderen. Pratend speelgoed an sich is uiteraard niet verboden. Het technische onderdeel dat het speelgoed laat praten, mag echter niet zodanig ontwikkeld zijn dat het zich op basis van het gedrag van een kind en/of zijn omgeving kan aanpassen. Het speelgoed zou bijvoorbeeld slechts enkele, vooraf geprogrammeerde standaardzinnen mogen uitdrukken. Deze zinnen mogen de kinderen niet in hun doen en laten beïnvloeden.
Een voorbeeld van een AI-systeem dat wel is toegestaan maar onderhevig is aan strenge eisen, is een systeem dat door verzekeraars zou kunnen worden gebruikt om te bepalen welke burgers al dan niet verzekerd kunnen worden. AI-systemen kunnen in deze context namelijk risico’s opleveren voor de veiligheid of grondrechten van personen doordat het systeem discriminerende criteria kan ontwikkelen. Een mogelijk gevolg van zo’n AI-systeem zou bijvoorbeeld kunnen zijn dat een burger in een woonwijk waar vaker incidenten voorkomen niet bij de desbetreffende verzekeraar mag aansluiten, terwijl een burger een paar straten verderop geen problemen ondervindt. Dit moet worden voorkomen door te voldoen aan de strenge vereisten uit de verordening.
Toepassing ontwerpverordening
Lidstaten zullen eigen toezichthoudende autoriteiten moeten oprichten ten behoeve van een goede handhaving van de vereisten in de (ontwerp)verordening. Bij het niet-naleven van de vereisten bij het gebruik van een systeem van AI kunnen (bestuurlijke) boetes van maximaal €30 miljoen worden opgelegd of een boete van maximaal 6% van de jaarlijkse wereldwijde omzet in het vorige boekjaar, afhankelijk van welk bedrag hoger is.
Verder is het relevant dat de regelgeving een breed toepassingsbereik zal kennen. Hierdoor kunnen ook aanbieders van buiten de EU onderhevig zijn aan de strenge eisen voor AI-systemen. De ontwerpverordening geeft daarnaast een dusdanig brede definitie van het begrip ‘AI-systeem’ dat weinig sectoren in de maatschappij de dans zullen ontspringen.
Conclusie
De stap tot het opstellen van een Europese verordening tot harmonisatie van regelgeving op het gebied van kunstmatige intelligentie heeft lang op zich laten wachten. Systemen van kunstmatige intelligentie zullen in de nabije toekomst aan strenge eisen moeten voldoen. Het aanpassingsproces zal, net als ten tijde van de invoering van de Algemene Verordening Gegevensbescherming (AVG), grote gevolgen met zich meebrengen. Maar voor het zover is, zal de Europese wetgevingsprocedure nog moeten worden doorlopen, waardoor de verordening op haar vroegst in 2024 werking zou kunnen krijgen.
Wilt u weten welke concrete gevolgen de (ontwerp)verordening voor u kan hebben? Of wilt u meer informatie over kunstmatige intelligentie? Neemt u dan contact op met Hester Ellemers.
