Deze pagina behandelt de verboden praktijken en de regels voor hoog risico uit onze EU AI Act-gids, die ook de vier risiconiveaus, het tijdschema en de eerste stappen uitlegt. Transparantie, GPAI-modellen en boetes staan in transparantie op grond van artikel 50, GPAI-modellen en boetes.
Verboden AI-praktijken
De oorspronkelijke verboden van artikel 5 zijn van kracht sinds 2 februari 2025. Voor elk verbod geldt een nauwkeurige juridische toets en, in sommige gevallen, uitzonderingen; toets een tool daarom aan de bewoordingen van het artikel in plaats van aan de onderstaande samenvatting.
- Manipulatieve of misleidende technieken: AI die gebruikmaakt van subliminale, manipulatieve of misleidende technieken om gedrag wezenlijk te verstoren op een wijze die aanzienlijke schade veroorzaakt of redelijkerwijs waarschijnlijk zal veroorzaken.
- Uitbuiting van kwetsbaarheden: AI die misbruik maakt van kwetsbaarheden die verband houden met leeftijd, een handicap of een specifieke sociale of economische situatie om gedrag wezenlijk te beïnvloeden en aanzienlijke schade te veroorzaken.
- Sociale scoring: AI die personen of groepen beoordeelt of classificeert op basis van hun sociaal gedrag of persoonlijke kenmerken, waarbij de daaruit voortvloeiende score leidt tot nadelige behandeling in niet-gerelateerde contexten, of tot behandeling die ongerechtvaardigd of onevenredig is. Het verbod is niet beperkt tot overheidsinstanties; het geldt ook voor particuliere organisaties.
- Voorspelling van het risico op criminaliteit door middel van profilering: AI die het risico dat een persoon een misdrijf pleegt, uitsluitend beoordeelt op basis van profilering of persoonlijkheidskenmerken, in plaats van op objectieve, verifieerbare feiten die verband houden met criminele activiteiten.
- Niet-gerichte verzameling van gezichtsbeelden: AI die gezichtsherkenningsdatabases aanlegt of uitbreidt door middel van het niet-gerichte verzamelen van beelden van het internet of uit camerabeelden.
- Emotieherkenning op het werk en in het onderwijs: AI die de emoties van mensen op de werkplek of in onderwijsinstellingen afleidt, behalve wanneer deze wordt gebruikt om medische of veiligheidsredenen.
- Biometrische categorisering op basis van gevoelige kenmerken: AI die personen op basis van biometrische gegevens categoriseert om conclusies te trekken over ras, politieke opvattingen, vakbondslidmaatschap, religieuze of filosofische overtuigingen, seksleven of seksuele geaardheid, met een beperkte uitzondering voor rechtmatig verkregen datasets in het kader van wetshandhaving.
- Realtime biometrische identificatie op afstand ten behoeve van wetshandhaving: live-identificatie in openbaar toegankelijke ruimten voor wetshandhavingsdoeleinden, uitsluitend toegestaan voor strikt omschreven doelstellingen na voorafgaande toestemming en met waarborgen. Dit betreft een regel voor wetshandhaving, geen algemeen verbod op gezichtsherkenning.
Nieuwe verboden vanaf 2 december 2026
De Digital Omnibus heeft twee praktijken toegevoegd aan artikel 5, die van toepassing zijn vanaf 2 december 2026. De eerste betreft AI-systemen die realistische beelden, video's, audio of soortgelijke inhoud genereren of manipuleren waarin een identificeerbare persoon zonder diens toestemming wordt afgebeeld in intieme situaties of bij seksueel expliciete activiteiten; dit is gericht op zogenaamde "nudificatietools". De tweede betreft AI die wordt gebruikt voor het genereren van materiaal met seksueel misbruik van kinderen. Voor beide gelden specifieke definities en uitzonderingen in de wettekst; een aanbieder van een beeld- of videogenerator dient deze daarom vóór december te toetsen aan zijn eigen product.
Platforms voor werknemersbetrokkenheid, productiviteitstools die gezichtsuitdrukkingen of stemgeluid analyseren, en HR-technologie die werknemers categoriseert op basis van biometrische signalen, kunnen onder het verbod op emotieherkenning of biometrische categorisering vallen. Toets deze tools aan de exacte bewoordingen van artikel 5.
AI met een hoog risico: bijlage III en bijlage I
Er zijn twee manieren om in de categorie 'AI met hoog risico' te vallen. Bijlage III somt de toepassingsgebieden op, en de Digital Omnibus heeft de verplichtingen voor die systemen uitgesteld tot 2 december 2027. Via bijlage I vallen onder artikel 6, lid 1, AI-systemen die zelf een product zijn of een veiligheidscomponent van een product dat valt onder de in bijlage I genoemde harmonisatiewetgeving van de EU, zoals machines of medische hulpmiddelen, wanneer voor dat product ook een conformiteitsbeoordeling door een derde partij verplicht is; deze verplichtingen gelden nu vanaf 2 augustus 2028. De oorspronkelijke data van augustus 2026 en augustus 2027 zijn niet langer van toepassing. De classificatie hangt af van het beoogde doel en de wettelijke voorwaarden, niet alleen van de sector waarin de AI wordt gebruikt.
Opname in bijlage III is op zichzelf nog geen definitieve classificatie. Krachtens artikel 6, lid 3, wordt een systeem uit bijlage III niet als risicovol aangemerkt indien het geen aanzienlijk risico op schade met zich meebrengt en de uitkomst van beslissingen niet wezenlijk beïnvloedt, bijvoorbeeld wanneer het een beperkte procedurele taak uitvoert, het resultaat van reeds door een persoon verricht werk verbetert, patronen in beslissingen detecteert zonder de menselijke beoordeling te vervangen, of een voorbereidende taak uitvoert. De aanbieder dient die beoordeling te documenteren. Een systeem van bijlage III dat profielen van natuurlijke personen opstelt, is altijd risicovol.
Een praktijkvoorbeeld: een tool voor cv-screening die sollicitanten rangschikt of filtert en wezenlijk bepaalt wie wordt uitgenodigd voor een gesprek, heeft een hoog risico onder bijlage III (werkgelegenheid). Een administratieve tool die alleen documenten samenvat die een recruiter al heeft geselecteerd, zonder kandidaten te rangschikken of de beslissing te sturen, kan onder de uitzondering van artikel 6, lid 3, vallen, mits de aanbieder die beoordeling documenteert. Stelt een van beide tools profielen van de kandidaten op, dan geldt de uitzondering niet en heeft het systeem een hoog risico.
Wat gebruiksverantwoordelijken van AI met een hoog risico moeten doen
Indien uw organisatie een AI-systeem met een hoog risico gebruikt, staan uw verplichtingen uit hoofde van artikel 26 los van die van de aanbieder. De aanbieder is verantwoordelijk voor het ontwerp, de technische documentatie en de conformiteitsbeoordeling. U bent verantwoordelijk voor de wijze waarop het systeem wordt gebruikt.
- Gebruik het systeem volgens de instructies: neem passende technische en organisatorische maatregelen om het systeem te gebruiken in overeenstemming met de gebruiksaanwijzing van de aanbieder. Het wijzigen van het systeem of het doel ervan kan uw juridische positie veranderen. Krachtens artikel 25 wordt een gebruiksverantwoordelijke als aanbieder van een systeem met een hoog risico beschouwd, met de bijbehorende verplichtingen van de aanbieder, indien hij zijn naam of handelsmerk op dat systeem aanbrengt (onverminderd contractuele afspraken die de verplichtingen anders verdelen), een wezenlijke wijziging aanbrengt waarna het systeem een hoog risico blijft houden, of het beoogde doel van een systeem zodanig wijzigt dat het een hoog risico krijgt. Elke wijziging vraagt om een beoordeling per geval; gewone configuratie binnen de instructies van de aanbieder heeft dat effect normaal gesproken niet.
- Zorg voor menselijk toezicht: vertrouw het toezicht toe aan personen die over de nodige bekwaamheid, opleiding, bevoegdheid en ondersteuning beschikken. Artikel 14 schrijft voor dat systemen met een hoog risico zodanig moeten worden ontworpen dat effectief toezicht mogelijk is, in verhouding tot het risico. Dit betekent niet dat elke uitvoer handmatig moet worden goedgekeurd, maar uw medewerkers moeten in staat zijn om het systeem te monitoren, in te grijpen en het systeem indien nodig te stoppen. De wetgeving inzake gegevensbescherming voegt hieraan eigen regels toe met betrekking tot beslissingen die uitsluitend op geautomatiseerde verwerking zijn gebaseerd.
- Monitoren en rapporteren: houd toezicht op de werking van het systeem en breng de aanbieder en, indien nodig, de markttoezichtautoriteit op de hoogte van risico's en ernstige incidenten.
- Bewaar de logbestanden: bewaar de logbestanden die het systeem automatisch genereert, voor zover deze onder uw controle vallen, gedurende een periode die in verhouding staat tot het beoogde doel en gedurende ten minste zes maanden, tenzij andere EU- of nationale wetgeving anders bepaalt (artikel 26, lid 6). Dit staat los van de verplichting van de aanbieder om documentatie tien jaar te bewaren.
- Werknemers informeren: voordat u een systeem met een hoog risico op de werkplek in gebruik neemt, dient u de werknemersvertegenwoordigers en de betrokken werknemers hiervan op de hoogte te stellen.
- Effectbeoordeling inzake grondrechten waar vereist: artikel 27 schrijft een effectbeoordeling inzake grondrechten (FRIA) voor aan publiekrechtelijke instanties, particuliere entiteiten die openbare diensten verlenen, en gebruiksverantwoordelijken van systemen voor kredietwaardigheidsbeoordeling en kredietscoring, of voor risicobeoordeling en prijsbepaling in levens- en ziektekostenverzekeringen. Dit geldt niet voor elke particuliere gebruiksverantwoordelijke van AI met een hoog risico. Wanneer er persoonsgegevens in het spel zijn, moet dit worden afgestemd op de gegevensbeschermingseffectbeoordeling (DPIA) die krachtens de AVG vereist is.
Wat u een aanbieder van AI met een hoog risico moet vragen
Vraag, voordat u een systeem met een hoog risico aanschaft of in gebruik neemt, naar de gebruiksaanwijzing, de bekende beperkingen, de maatregelen voor menselijk toezicht, de logbestanden die het systeem genereert en het plan van de aanbieder om te voldoen aan de verplichtingen die vanaf december 2027 van kracht zijn. Controleer, afhankelijk van het tijdschema en het type systeem, de EU-conformiteitsverklaring, de CE-markering en eventuele registratievereisten. Niet alle technische documentatie is bedoeld voor klanten, en de registratieregels variëren per type systeem en doel, dus concentreer u op wat u nodig hebt om het systeem rechtmatig te gebruiken.
2027
2028