Terug
HomeActueelKunstmatige Intelligentie: Europese Commissie trekt teugels aan

Kunstmatige Intelligentie: Europese Commissie trekt teugels aan

3 min |
22 april 2021
|
Blogs
Kunstmatige Intelligentie: Europese Commissie trekt teugels aan

Geschreven door:

Hester Ellemers

Inleiding

Op 21 april 2021 heeft de Europese Commissie een nieuw plan (een ontwerpverordening) op tafel gelegd ter harmonisering van regels op het gebied van kunstmatige of artificiële intelligentie (“AI”). Dit alles met het idee om van Europa een goed georganiseerd geheel te maken wat betreft AI.

De Europese Commissie liep al langer met het idee om AI te reguleren en nu is dan daadwerkelijk de kop eraf. Maar hoe zit deze ontwerpverordening in elkaar en welke stappen moeten nog worden genomen totdat de regelgeving bindend wordt?

Hoofdlijnen ontwerpverordening

De ontwerpverordening is gebaseerd op een risico-afhankelijke aanpak van AI-systemen. Hierbij wordt onderscheid gemaakt in vier categorieën van risico’s. Afhankelijk van de grootte van het risico van een bepaald AI-systeem zullen strenge(re) eisen worden gesteld waaraan de systemen moeten voldoen.

Bepaalde systemen zullen zelfs in hun geheel niet mogen worden gebruikt. Dit laatste is bijvoorbeeld het geval bij systemen die gebruikt worden door kwetsbare groepen in de samenleving. Een goed voorbeeld betreft pratend speelgoed voor kinderen. Pratend speelgoed an sich is uiteraard niet verboden. Het technische onderdeel dat het speelgoed laat praten, mag echter niet zodanig ontwikkeld zijn dat het zich op basis van het gedrag van een kind en/of zijn omgeving kan aanpassen. Het speelgoed zou bijvoorbeeld slechts enkele, vooraf geprogrammeerde standaardzinnen mogen uitdrukken. Deze zinnen mogen de kinderen niet in hun doen en laten beïnvloeden.

Een voorbeeld van een AI-systeem dat wel is toegestaan maar onderhevig is aan strenge eisen, is een systeem dat door verzekeraars zou kunnen worden gebruikt om te bepalen welke burgers al dan niet verzekerd kunnen worden. AI-systemen kunnen in deze context namelijk risico’s opleveren voor de veiligheid of grondrechten van personen doordat het systeem discriminerende criteria kan ontwikkelen. Een mogelijk gevolg van zo’n AI-systeem zou bijvoorbeeld kunnen zijn dat een burger in een woonwijk waar vaker incidenten voorkomen niet bij de desbetreffende verzekeraar mag aansluiten, terwijl een burger een paar straten verderop geen problemen ondervindt. Dit moet worden voorkomen door te voldoen aan de strenge vereisten uit de verordening.

Toepassing ontwerpverordening

Lidstaten zullen eigen toezichthoudende autoriteiten moeten oprichten ten behoeve van een goede handhaving van de vereisten in de (ontwerp)verordening. Bij het niet-naleven van de vereisten bij het gebruik van een systeem van AI kunnen (bestuurlijke) boetes van maximaal €30 miljoen worden opgelegd of een boete van maximaal 6% van de jaarlijkse wereldwijde omzet in het vorige boekjaar, afhankelijk van welk bedrag hoger is.

Verder is het relevant dat de regelgeving een breed toepassingsbereik zal kennen. Hierdoor kunnen ook aanbieders van buiten de EU onderhevig zijn aan de strenge eisen voor AI-systemen. De ontwerpverordening geeft daarnaast een dusdanig brede definitie van het begrip ‘AI-systeem’ dat weinig sectoren in de maatschappij de dans zullen ontspringen.

Conclusie

De stap tot het opstellen van een Europese verordening tot harmonisatie van regelgeving op het gebied van kunstmatige intelligentie heeft lang op zich laten wachten. Systemen van kunstmatige intelligentie zullen in de nabije toekomst aan strenge eisen moeten voldoen. Het aanpassingsproces zal, net als ten tijde van de invoering van de Algemene Verordening Gegevensbescherming (AVG), grote gevolgen met zich meebrengen. Maar voor het zover is, zal de Europese wetgevingsprocedure nog moeten worden doorlopen, waardoor de verordening op haar vroegst in 2024 werking zou kunnen krijgen.

Wilt u weten welke concrete gevolgen de (ontwerp)verordening voor u kan hebben? Of wilt u meer informatie over kunstmatige intelligentie? Neemt u dan contact op met Hester Ellemers.

Bericht delen op linkedin

Meer weten? Neem contact op met een van onze specialisten.

Gerelateerde expertises en branches

Nieuwste berichten

Al het nieuws

Blijf op de hoogte met onze nieuwsbrief

Mis niets meer en meld u aan voor onze nieuwsbrief.

Velden met een * zijn verplicht

Ik geef toestemming dat TRIP Advocaten Notarissen mijn e-mailadres gebruikt voor het toesturen van de nieuwsbrief. U kunt meer lezen in ons Privacy en cookiesbeleid.

Terug naar blogs
Contact image

Contact

Als grootste juridische adviespraktijk van Noord-Nederland staan wij centraal bij onze cliënten Wij werken in de provincies Groningen, Friesland en Drenthe (en ver daarbuiten) vanuit onze kantoren in Groningen, Leeuwarden en Assen.

Lees meer