Europese AI-verordening

De Europese AI-verordening trad op 1 augustus 2024 in werking en wordt stapsgewijs van toepassing. Vanaf 2 augustus 2026 gelden ook de transparantieverplichtingen van artikel 50. Die moeten ervoor zorgen dat personen weten wanneer zij met artificiële intelligentie (AI) communiceren of wanneer bepaalde inhoud met behulp van AI werd gegenereerd of gewijzigd.

Welke verplichtingen precies gelden, hangt onder meer af van de rol die een onderneming vervult. De verordening maakt daarbij een onderscheid tussen aanbieders en gebruiksverantwoordelijken. Een aanbieder ontwikkelt of laat een AI-systeem ontwikkelen en brengt het vervolgens onder zijn eigen naam of merk op de markt of neemt het in gebruik.

Een gebruiksverantwoordelijke is daarentegen een onderneming, organisatie of beroepsbeoefenaar die een AI-systeem onder eigen verantwoordelijkheid professioneel gebruikt. Louter persoonlijk gebruik valt in beginsel buiten het toepassingsgebied. Afhankelijk van haar activiteiten kan een onderneming zowel aanbieder als gebruiksverantwoordelijke zijn.

Verplichtingen voor aanbieders

Aanbieders van AI-systemen die rechtstreeks met natuurlijke personen interageren, moeten ervoor zorgen dat deze personen weten dat zij met AI communiceren. Denk bijvoorbeeld aan een chatbot op een webshop, een virtuele klantenassistent, een AI-agent die afspraken vastlegt of een digitale avatar.

Een afzonderlijke melding is niet vereist wanneer het voor een redelijk geïnformeerde en oplettende persoon, gelet op de omstandigheden en de gebruikscontext, al duidelijk is dat het om AI gaat. Bij een realistisch vormgegeven digitale medewerker zal een uitdrukkelijke melding doorgaans wel aangewezen zijn.

Daarnaast gelden specifieke verplichtingen voor aanbieders van AI-systemen die tekst, beelden, audio of video genereren of manipuleren. Zij moeten ervoor zorgen dat de output technisch herkenbaar is als AI-inhoud. In beginsel moet die output een betrouwbare en machineleesbare markering bevatten, zodat software kan vaststellen dat de inhoud door AI werd gegenereerd of gewijzigd. Voor generatieve AI-systemen die al vóór 2 augustus 2026 op de markt waren of in gebruik waren, geldt voor deze markeringsplicht een overgangstermijn tot 2 december 2026.

Verplichtingen voor gebruiksverantwoordelijken

Ook gebruiksverantwoordelijken moeten rekening houden met specifieke transparantieverplichtingen. De onderneming zelf blijft daarbij in beginsel de gebruiksverantwoordelijke, ook wanneer werknemers, freelancers of opdrachtnemers het AI-systeem onder haar verantwoordelijkheid gebruiken.

Zo moet een gebruiksverantwoordelijke die een systeem voor emotieherkenning of biometrische categorisering inzet, de betrokken personen daarover informeren. Een voorbeeld is software die tijdens een sollicitatiegesprek probeert in te schatten of een kandidaat nerveus of enthousiast is. Wanneer daarbij persoonsgegevens worden verwerkt, moeten bovendien de regels van de GDPR worden nageleefd.

Gebruiksverantwoordelijken moeten ook duidelijk aangeven wanneer beeld-, audio- of video-inhoud een deepfake vormt. Publiceert een onderneming bijvoorbeeld een realistische AI-video waarin een persoon een product lijkt aan te bevelen, dan moet zij vermelden dat de inhoud kunstmatig werd gegenereerd of gemanipuleerd. Een verborgen technische markering volstaat in dat geval niet. Gaat het daarentegen om evident kunstmatige, artistieke, creatieve, satirische, fictieve of analoge content, dan mag deze informatie op een passende, niet-hinderlijke manier worden verstrekt, zonder de weergave of het gebruik van het werk te belemmeren.

Ten slotte moeten ook door AI gegenereerde of gemanipuleerde teksten over aangelegenheden van algemeen belang in beginsel als dusdanig worden gelabeld. Het kan bijvoorbeeld gaan om teksten over politiek, volksgezondheid, veiligheid of rechtspraak. Deze verplichting geldt niet wanneer de inhoud een menselijke redactionele toetsing heeft ondergaan en een natuurlijke of rechtspersoon redactionele verantwoordelijkheid draagt voor de publicatie.

Wat betekent dit voor uw onderneming?

Ondernemingen doen er goed aan om in kaart te brengen welke AI-systemen zij gebruiken en voor welke doeleinden zij die inzetten. Daarbij moet worden nagegaan of de onderneming optreedt als aanbieder, als gebruiksverantwoordelijke of als beide. Vervolgens moet worden onderzocht of klanten, werknemers of andere personen rechtstreeks met deze systemen in contact komen en welke inhoud ermee wordt gegenereerd of gewijzigd.

Op basis van die analyse kan worden bepaald waar een duidelijke melding, een zichtbaar label, een technische markering of menselijke controle nodig is. De kern van de regeling is eenvoudig: het moet duidelijk zijn wanneer iemand met AI communiceert of wanneer inhoud door AI werd gegenereerd of gewijzigd.

Vragen of behoefte aan juridisch advies?

Wenst u meer inzicht in de verplichtingen die voor uw onderneming gelden of wilt u laten nagaan of uw onderneming aan de nieuwe transparantieverplichtingen van de AI-verordening voldoet? Neem gerust contact op voor vragen, advies op maat of juridisch sparren. Onze expert Mieke Trombetta helpt u verder.

Mieke Trombetta
mieke.trombetta@halsten.be