Deze pagina behandelt stap 7 tot en met 10 van ons framework voor AI-governance. De maatregelen voor gegevensbescherming en beveiliging waarop deze stappen voortbouwen, staan in gegevensbescherming, menselijk toezicht en beveiligingsmaatregelen voor AI.
Stap 7: Due diligence van leveranciers
Elke AI-tool die uw organisatie gebruikt, omvat een externe leverancier die uw gegevens verwerkt. De onderstaande due-diligencevragen gelden voor elke nieuwe AI-tool vóór goedkeuring en moeten opnieuw worden bekeken wanneer een leverancier belangrijke wijzigingen aanbrengt in zijn voorwaarden of product.
| Vraag | Waarom dit belangrijk is |
|---|---|
| Trainen ze hun modellen standaard met klantgegevens? | Veel gratis tools doen dit. Zakelijke abonnementen bieden doorgaans een opt-out. Bevestig dat deze is uitgeschakeld en leg dit schriftelijk vast. |
| Waar worden gegevens verwerkt en opgeslagen? | Bepaalt welk overdrachtsmechanisme nodig is voor AVG-naleving. |
| Wie zijn de subverwerkers? | De AI-infrastructuur van uw leverancier kan op AWS, Azure of Google Cloud in een andere jurisdictie draaien. Controleer de lijst met subverwerkers in de verwerkersovereenkomst. |
| Wat gebeurt er met gegevens wanneer u opzegt? | Bevestig de verwijdertermijnen. Sommige leveranciers bewaren gegevens voor modelverbetering na beëindiging van het contract, tenzij u expliciet om verwijdering verzoekt. |
| Welke beveiligingscertificeringen heeft de leverancier? | ISO 27001 en SOC 2 Type II bieden nuttige zekerheid voor AI-tools die gevoelige gegevens verwerken, maar certificering moet worden beoordeeld naast de beveiligingsmaatregelen, contractuele verplichtingen, gegevensverwerkingspraktijken en onafhankelijke assurance van de leverancier. Vraag waar van toepassing om het actuele certificaat. |
| Wat is de bewaartermijn voor prompts en output? | Sommige platforms bewaren gesprekshistorie gedurende langere perioden. Dit is relevant voor uw bewaarbeleid voor gegevens en voor het beantwoorden van inzageverzoeken van betrokkenen. |
| Hoe classificeert de leverancier zijn systeem onder de EU AI Act? | Relevant als u activiteiten in de EU heeft. Vraag of de leverancier een conformiteitsbeoordeling heeft uitgevoerd en aan welk risiconiveau hij zijn systeem toewijst. |
Voeg de verwerkersovereenkomst van de leverancier en een samenvatting van de antwoorden op deze vragen toe aan het AI-toolregister. Wanneer een leverancier zijn voorwaarden bijwerkt, laat uw register zien welke tools opnieuw moeten worden beoordeeld.
Inkoopvereisten voor AI
Neem de due-diligencevragen hierboven op in het inkoopproces zelf, niet als een aparte controle achteraf nadat het contract al is getekend. Voor elke nieuwe AI-tool met een gemiddeld of hoog risico horen de volgende punten standaard in de contractuele voorwaarden of het addendum te staan:
- Gegevensverwerking en training: expliciete bevestiging dat uw gegevens niet worden gebruikt om het model te trainen, tenzij u daarvoor kiest
- Beveiliging en privacy: minimale beveiligingsstandaarden en een verwerkersovereenkomst conform de AVG
- Bewaartermijn en verwijdering: vastgelegde bewaartermijnen voor prompts en output, en een verwijdertermijn na beëindiging
- Gegevenslocatie en subverwerkers: waar gegevens worden verwerkt en wie de subverwerkers zijn, met kennisgeving bij wijzigingen
- Incidentmelding: een contractuele termijn waarbinnen de leverancier een beveiligingsincident of datalek moet melden
- Audit en medewerking aan toezicht: het recht om bewijs van beveiligings- en governancemaatregelen op te vragen
- Wijzigingen in model of dienst: kennisgeving vooraf bij materiële wijzigingen die het risicoprofiel van de tool kunnen veranderen
- Uittreding en overdraagbaarheid: hoe u bij beëindiging van het contract uw gegevens terugkrijgt en laat verwijderen
Leg deze punten vast als standaardvoorwaarden voor AI-inkoop, zodat elk nieuw contract erop wordt getoetst voordat het wordt ondertekend, in plaats van dat u ze achteraf probeert te herstellen.
Stap 8: AI-incidentmanagement
Governance moet ook beschrijven wat er gebeurt wanneer iets misgaat. AI-incidenten zijn niet hetzelfde als algemene IT-incidenten en uw bestaande incidentresponsproces houdt hier mogelijk geen rekening mee. Definieer wat als AI-incident geldt en zorg ervoor dat de escalatieroute uw AI-governance-eigenaar en, waar relevant, uw FG/DPO bereikt.
Wat geldt als een AI-incident
- Vertrouwelijke gegevens of persoonsgegevens ingevoerd in een ongeautoriseerde of niet-goedgekeurde AI-tool
- AI-gegenereerde content die zonder passende controle naar een klant is verzonden of extern is gepubliceerd
- Discriminerende of schadelijke AI-output die een persoon raakt
- Een onjuiste geautomatiseerde beslissing met aanzienlijke gevolgen voor een persoon
- Prompt injection die leidt tot blootstelling van gegevens of onbedoeld AI-gedrag
- Een beveiligingsincident bij een AI-leverancier dat uw gegevens raakt
- Verboden AI-gebruik door een medewerker
- AI-gegenereerde content die juridische, regelgevende of reputatieschade veroorzaakt
- Onverwacht modelgedrag na een update van de leverancier
Responsproces
AI-incidenten waarbij sprake is van een datalek met persoonsgegevens sluiten rechtstreeks aan op uw bredere incidentresponscapaciteit. Als uw organisatie geen getest incidentresponsproces heeft, is een AI-incident een slecht moment om daarachter te komen.
Stap 9: Toepasselijkheid van de EU AI Act
De EU AI Act is rechtstreeks van toepassing op Nederlandse organisaties. De wet omvat elke organisatie die AI-systemen op de EU-markt brengt of AI inzet die gevolgen heeft voor mensen in de EU. Een afzonderlijke jurisdictieanalyse is niet vereist.
De EU AI Act hanteert een risicokader met vier niveaus: onaanvaardbaar risico (verboden), hoog risico, beperkt risico (transparantieverplichtingen) en minimaal risico. De praktisch meest relevante bepalingen zijn:
Verboden AI
Voorbeelden van verboden AI-praktijken die sinds februari 2025 gelden (dit is geen uitputtende lijst van de verboden in artikel 5):
- AI-systemen die subliminale technieken gebruiken om gedrag op schadelijke wijze te manipuleren
- Social-scoring-systemen die door overheidsinstanties worden gebruikt
- Real-time biometrische identificatie op afstand in openbare ruimten (met beperkte uitzonderingen voor rechtshandhaving)
- AI die kwetsbaarheden in verband met leeftijd, handicap of sociale situatie uitbuit om gedrag te verstoren
Hoog-risico-AI
Volgens de herziene implementatietijdlijn gelden de regels voor hoog-risico-AI-systemen die onder Bijlage III vallen vanaf 2 december 2027. Voor bepaalde hoog-risicosystemen die zijn ingebed in gereguleerde producten gelden de regels vanaf 2 augustus 2028. Hoog-risicocategorieën omvatten AI voor werving en arbeidsbeslissingen, onderwijsbeoordeling, kredietbeoordeling, verzekeringsrisicobeoordeling, beheer van kritieke infrastructuur en rechtshandhaving. Als uw organisatie AI op een van deze gebieden inzet en activiteiten in de EU heeft of personen in de EU raakt, begin dan nu met de voorbereidingen voor compliance. De compliancegids voor de EU AI Act behandelt de volledige risicostructuur en wat elk niveau vereist.
GPAI-modellen
De regels voor general-purpose AI-modellen gelden sinds augustus 2025. Deze raken vooral modelontwikkelaars en aanbieders, in plaats van organisaties die AI-tools commercieel gebruiken, maar organisaties die foundationmodellen voor hun eigen producten fine-tunen of aanpassen, moeten specifiek advies inwinnen.
Stap 10: ISO 42001 als managementsysteem
ISO/IEC 42001:2023 is de internationale norm voor AI-managementsystemen. Deze stelt eisen aan de manier waarop een organisatie het beheer van AI-gerelateerde activiteiten vaststelt, implementeert, onderhoudt en voortdurend verbetert. Als u al beschikt over ISO 27001, zijn veel elementen van het managementsysteem rechtstreeks overdraagbaar.
ISO 42001-certificering is vooral zinvol voor:
- Organisaties die op grote schaal AI-systemen ontwikkelen of inzetten
- Gereguleerde organisaties waar auditors of klanten formeel bewijs van AI-governance vragen
- Organisaties met verplichtingen voor hoog-risico-AI onder de EU AI Act, waarbij ISO 42001 kan bijdragen aan een conformiteitsbeoordeling
- Bedrijven waarbij AI-governance een onderscheidende verkoopfactor in de markt is
Voor de meeste mkb-organisaties die AI-tools commercieel gebruiken in plaats van ze zelf te bouwen, is formele ISO 42001-certificering niet evenredig. Het implementeren van de bijbehorende governance-beheersmaatregelen, waaronder een AI-beleid, een risicobeoordelingsproces, vereisten voor menselijk toezicht en een beoordelingscyclus, biedt u de inhoud zonder de certificeringslast. Onze ISO 42001-gids behandelt gedetailleerd wat de norm vereist.