Op 9 december 2023 is de langverwachte AI Act aangenomen. Binnenkort zal deze regelgeving dan ook in werking treden, wat betekent dat organisaties, die AI ontwikkelen, aanbieden en/of gebruiken, moeten gaan nadenken over hun compliancy met deze nieuwe wetgeving.

Waarvoor is de AI Act bedoeld?

De AI Act is bedoeld om AI-toepassingen te reguleren, zodat AI op een veilige, verantwoorde en betrouwbare manier wordt ontworpen én gebruikt. Zo worden de fundamentele rechten van gebruikers en burgers uit de Europese Unie beschermd. Hoewel de tekst van de 261 pagina’s tellende verordening bekend is, roept de AI Act ook veel vragen op.

Risicoclassificatie voor AI-systemen

Het centrale thema binnen de AI Act is de risico-gebaseerde aanpak voor AI-systemen. Er wordt een verschil gemaakt tussen AI-systemen met een onaanvaardbaar risico, een hoog risico en een laag/minimaal risico. De AI-systemen die volgens de AI Act een onaanvaardbaar risico opleveren zijn geheel verboden. Verder ziet de verordening vooral op AI-systemen met een hoog risico. Voor deze AI-toepassingen gelden aanzienlijke verplichtingen ten aanzien van het aanbieden én het gebruik ervan.

De AI Act geldt voor praktisch alle sectoren en voor veel spelers binnen ‘productketen’, mits er maar AI wordt ingezet die valt onder de Europese AI-wetgeving. Van aanbieder tot gebruiker: bijna alle actoren kunnen verplichtingen hebben. Natuurlijk afhankelijk van de risico-aanduiding van de AI-toepassing.

Het is voor organisaties (waaronder overheidsinstanties en bedrijven) die AI ontwikkelen, aanbieden of gebruiken of dit van plan zijn, dus erg belangrijk om te weten of een AI-systeem onder de AI Act valt, wat de gevolgen hiervan zijn en met name welke regels precies van toepassing zijn op het AI-systeem. Wat zijn bijvoorbeeld ook de implicaties voor privacy en gegevensbescherming?

De IT-Jurist helpt

De IT-Jurist biedt ondersteuning aan organisaties, die te maken (kunnen) krijgen met de juridische uitdagingen van de AI Act. Door middel van een op maat gemaakte opleiding (eventueel in combinatie met een SLIM-subsidie) kan je inzicht krijgen in de gevolgen en uitdagingen van AI binnen jouw organisatie, maar natuurlijk ook in de mogelijkheden die het gebruik van AI kan bieden.

Verder kunnen wij helpen bij het checken en/of opstellen van AI-contracten en het gezamenlijk opstellen van interne gedragscodes over AI-gebruik. Zo maak je jouw organisatie klaar voor het nieuwe tijdperk waarin AI een grote rol gaat spelen binnen jouw organisatie, leveranciersketen of specifieke sector.

Voor meer informatie hierover kijk bij onze opleidingen of neem contact met ons op om de mogelijkheden te bespreken.

Auteur: Robert Hoogslag