Artificiële intelligentie (AI) is sinds een aantal jaren steeds vaker in het nieuws. Niet alleen de positieve kanten worden belicht, maar doorgaans ook de (mogelijke) negatieve kanten. Waar vroeger AI gezien werd als science fiction, kan men tegenwoordig het woordje fiction er wel uit halen. Tegenwoordig wordt AI binnen veel organisaties gebruikt, soms zelfs zonder dat zij erbij stilstaan of het überhaupt doorhebben. De opmars van AI hangt natuurlijk nauw samen met de toenemende digitalisering van de samenleving. Wie durft nog te zeggen dat zij zonder een smartphone kunnen? Ondernemers die gebruik maken van AI, zoals ChatGPT, dienen zich bewust te zijn van de bestaande en de toekomstige regels hieromtrent.
Privacy en AVG
Het is belangrijk om de klanten, relaties, werknemers e.d. te informeren dat jouw organisatie AI gebruikt in haar bedrijfsprocessen. Wil je algoritmische systemen gaan toepassen en worden daarbij persoonsgegevens verwerkt? Dan moet je als organisatie aan de AVG voldoen. Op grond van de AVG heb je een grondslag nodig om persoonsgegevens te mogen verwerken. Afhankelijk van onder andere de soort persoonsgegevens dient gecheckt te worden aan welke concrete eisen jouw organisatie moet voldoen. Neem in ieder geval een passage over het gebruik van AI op in jouw privacy statement om zo vooraf goed te informeren en om duidelijkheid te verschaffen. En zorg natuurlijk ook dat jouw digitale- databeveiliging op orde is en blijft.
Hiernaast is het belangrijk om binnen je eigen organisatie voldoende awareness te hebben omtrent het gebruik van AI zoals ChatGPT. Jouw medewerkers moeten goed geïnformeerd worden over wat wel en niet kan en gewenst is op dit gebied. Hierin ligt een verantwoordelijkheid van jou als werkgever.
Nieuwe Europese wet inzake AI: de AI ACT
Na een vrij intensief onderhandelingstraject is er eind vorig jaar voorlopige overeenstemming bereikt over nieuwe Europese regelgeving voor het beheersen van kunstmatige intelligentie (AI). De voorgestelde AI-wetgeving, bekend als de AI Act, wordt beschouwd als een essentiële stap in het verkrijgen van meer controle over kunstmatige intelligentie. Het doel is om “fundamentele rechten, democratie, de rechtsstaat en het milieu” te beschermen tegen bepaalde toepassingen van AI. De regelgeving introduceert een systeem van risicoclassificaties voor AI-systemen, waarbij geldt: hoe hoger het risico, hoe strenger zijn de eisen die worden gesteld. Hierbij wordt rekening gehouden met de specifieke risico’s en impact van verschillende soorten AI-toepassingen.
- Onaanvaardbaar risico
- Hoog risico
- Laag of minimaal risico
Een AI-systeem die wordt bestempeld als ‘hoog risico’ bevat een hoog risico voor de gezondheid en veiligheid of de fundamentele rechten van natuurlijke personen. AI-systemen die niet binnen de eerdergenoemde categorieën vallen, kunnen relatief probleemloos toegang krijgen tot de Europese markt. Maar het is van groot belang dat dergelijke AI-systemen transparant zijn en deze systemen mogen geen autonome beslissingen nemen. Menselijke beslissingen moeten dus genomen worden door mensen. Waarschijnlijk wordt dit pas echt een wet vanaf medio 2025, maar ook vandaag de dag dien je jouw organisatie op orde te hebben voor wat betreft dit onderwerp. Er zijn immers tal van andere wetten van toepassing en daar kun je nu al tegenaan lopen bij het ondernemen.
Voor specifieke sectoren gelden naast de AVG ook specifieke AI-regels. Zo is er voor AI toepassingen in medische hulpmiddelen bijvoorbeeld de Medische Hulpmiddelen Verordening. Kortom, ook zonder een AI verordening zijn er nu al regels waaraan een AI toepassing moet voldoen. Voor AI ontwikkelaars betekent dit dat zij moeten inventariseren aan welke wet- en regelgeving de AI toepassing moet voldoen en of zij daar aan voldoen. Wanneer dat niet het geval is dan kan een klant later stellen dat de AI toepassing niet voldeed aan de wettelijke vereisten. Dat kan tot schadeclaims lijden en dat is te voorkomen door er nu al goed over na te denken en actie te ondernemen.
AI en contracten
Ook zien wij in toenemende mate dat partijen in hun contracten en algemene voorwaarden rekening houden met het onderwerp van AI. Wees daar bewust van en speel er goed op in.
Juridisch advies AI
Neem vooral eens contact met ons op over juridisch advies. Wij zijn je graag van dienst.
