Deze pagina behandelt stap 4 tot en met 6 van ons framework voor AI-governance. Ze bouwt voort op het AI-toolregister en de risicoclassificatie uit stap 1 tot en met 3 in AI-inventarisatie, risicoclassificatie en beleid voor acceptabel gebruik. Leveranciers, incidenten en regelgeving volgen in stap 7 tot en met 10.
Stap 4: AVG-verplichtingen
De AVG is van toepassing op elke AI-verwerking waarbij persoonsgegevens betrokken zijn. De verplichtingen die in de praktijk het vaakst ontstaan zijn:
Personen hebben het recht niet te worden onderworpen aan een beslissing die uitsluitend is gebaseerd op geautomatiseerde verwerking wanneer die beslissing voor hen rechtsgevolgen heeft of hen op vergelijkbare wijze aanzienlijk treft. Als een AI-systeem zonder betekenisvolle menselijke tussenkomst uitsluitend geautomatiseerde beslissingen neemt over sollicitanten, kredietwaardigheid, verzekerbaarheid of het recht op uitkeringen, kan artikel 22 van toepassing zijn. Menselijke beoordeling moet de uitkomst daadwerkelijk kunnen beïnvloeden: het simpelweg afvinken van een AI-aanbeveling voldoet niet aan de eis. Artikel 22 kent specifieke uitzonderingen (uitdrukkelijke toestemming, contractuele noodzaak of wettelijke machtiging) die moeten worden onderscheiden van de rechtsgrondslag van artikel 6 voor de onderliggende verwerking van persoonsgegevens. Beide analyses zijn afzonderlijk vereist. Documenteer uw beoordeling of artikel 22 van toepassing is op elke AI-tool met een hoog risico en bewaar deze documentatie.
Een DPIA is vereist vóór verwerking die waarschijnlijk een hoog risico voor personen oplevert. De DPIA-richtlijnen van de AP noemen AI-verwerking met systematische profilering, bijzondere categorieën persoonsgegevens, geautomatiseerde besluitvorming met aanzienlijke gevolgen of grootschalige monitoring als verwerking waarvoor waarschijnlijk een DPIA vereist is. Voer vóór implementatie een DPIA uit voor elke AI-tool met een hoog risico. Voor tools met een gemiddeld risico is een DPIA goede praktijk, ook wanneer deze niet strikt verplicht is. Zie onze gids over DPIA-vereisten voor AI voor een uitgewerkt framework.
Voor de verwerking van persoonsgegevens via een AI-tool is een rechtsgrondslag onder artikel 6 vereist; voor bijzondere categorieën persoonsgegevens is daarnaast een voorwaarde onder artikel 9 vereist. Uw privacyverklaringen moeten personen informeren wanneer AI hun gegevens op een ingrijpende manier verwerkt. Als u AI-tools gebruikt die werknemersgegevens verwerken, werk dan uw privacyverklaring voor medewerkers bij. Als u klantgegevens via AI verwerkt, werk dan uw klantgerichte privacyverklaring bij.
Dit zijn afzonderlijke begrippen die onder verschillende kaders worden beoordeeld. Een DPIA is vereist wanneer verwerking onder de AVG waarschijnlijk een hoog risico voor personen oplevert: een risicoanalyse op het gebied van gegevensbescherming. Dit is niet hetzelfde als een AI-systeem classificeren als "hoog risico" onder de EU AI Act, die andere criteria hanteert op basis van het toepassingsgebied. Een tool met een lage risicoclassificatie onder de EU AI Act kan onder de AVG toch een DPIA vereisen als deze grootschalige profilering, bijzondere categorieën persoonsgegevens of geautomatiseerde beslissingen met aanzienlijke gevolgen omvat.
Internationale gegevensdoorgiften
De meeste leveranciers van generatieve AI verwerken gegevens in de Verenigde Staten. Controleer de verwerkersovereenkomst van uw leverancier om vast te stellen welk overdrachtsmechanisme wordt gebruikt: een adequaatheidsbesluit, standaardcontractbepalingen (SCC's) of bindende bedrijfsvoorschriften. Als uw leverancier alleen SCC's aanbiedt zonder een EU-conform addendum, vraag dan vóór gebruik van de tool voor persoonsgegevens om schriftelijke verduidelijking.
Stap 5: Bouw menselijk toezicht in workflows in
Menselijk toezicht is alleen betekenisvol wanneer de persoon die AI-output beoordeelt over de informatie en tijd beschikt om een echte beoordeling te maken. Een workflow waarin een manager binnen een minuut op "goedkeuren" klikt bij een AI-gegenereerde HR-beoordeling is geen toezicht. Het is een aansprakelijkheidsrisico vermomd als proces.
Definieer voor elke workflow met gevolgen waarin AI wordt gebruikt:
- Wie de AI-output beoordeelt en wat deze beoordeling moet omvatten
- Welke informatie zij nodig hebben om die beoordeling te maken, inclusief context waartoe de AI geen toegang had
- Wat zij kunnen wijzigen voordat de beslissing wordt vastgelegd en hoe wijzigingen worden gedocumenteerd
- Hoe de beslissing en de betrokkenheid van AI worden geregistreerd voor het geval later bezwaar wordt gemaakt of een audit plaatsvindt
- Met wie de betrokkene contact kan opnemen om menselijke beoordeling te verzoeken van een beslissing die hem of haar heeft geraakt
De loggingvereiste is bijzonder belangrijk. Als een wervingsbeslissing of kredietaanvraag wordt aangevochten, moet u kunnen aantonen wat de AI heeft geproduceerd, wat de beoordelaar heeft gewijzigd en wie de uiteindelijke beslissing heeft genomen. Mondelinge processen laten u onbeschermd achter.
Bij de implementatie van Microsoft 365 Copilot, ligt de nadruk minder op individuele beslissingen en meer op toegangscontroles voor gegevens: welke gegevens Copilot kan tonen, wie wat kan zien en of SharePoint-sites met te ruime rechten zichtbaar zijn voor medewerkers die geen toegang tot die content zouden mogen hebben.
Stap 6: Beveiligingsmaatregelen voor AI
AI-tools introduceren beveiligingsrisico's waarvoor de meeste bestaande beheersmaatregelen niet zijn ontworpen. AI-governance zonder beheersing van het beveiligingsprofiel laat een aanzienlijk gat, vooral wanneer organisaties AI koppelen aan interne gegevens, API's en bedrijfsprocessen.
Toegangscontrole en least privilege
Zakelijke AI-tools, met name tools die zijn geïntegreerd met uw Microsoft 365-omgeving, CRM of bestandssystemen, tonen gegevens op basis van waartoe de gebruiker toegang heeft. Als uw SharePoint-rechten te ruim zijn, zal Copilot documenten tonen die de gebruiker niet zou mogen zien. Controleer de rechten in uw gekoppelde systemen voordat u AI-tools inschakelt die deze kunnen doorzoeken. Pas least privilege toe: gebruikers mogen alleen toegang hebben tot de gegevens die hun rol vereist, niet tot alles wat hun account technisch toestaat.
Prompt injection
Prompt injection is een aanval waarbij kwaadaardige instructies die zijn ingebed in content die de AI verwerkt, ervoor zorgen dat de AI onbedoelde acties uitvoert of informatie lekt. Bij klantgerichte AI-implementaties: chatbots, AI-ondersteunde e-mailverwerking, documentanalyse: kan een aanvaller invoer samenstellen die de systeeminstructies overschrijft. Beheersmaatregelen omvatten outputvalidatie, gesandboxte uitvoeringsomgevingen, het beperken van de mogelijkheid van de AI om autonome acties uit te voeren en het loggen van alle invoer en output voor beoordeling.
Datalekken en gevoelige inhoud in prompts
Medewerkers nemen routinematig meer informatie op in AI-prompts dan ze van plan waren. Inloggegevens, persoonsgegevens, klantnamen, financiële cijfers en vertrouwelijke strategiedocumenten verschijnen in prompts zonder dat de gebruiker nadenkt over waar die gegevens terechtkomen. Training vermindert de frequentie, maar technische beheersmaatregelen zijn belangrijker: classificeer gegevens in rust, beperk welke gegevenscategorieën toegankelijk zijn voor AI-applicaties en configureer DLP-beleid om prompts met gevoelige patronen te signaleren of te blokkeren.
Shadow AI en niet-goedgekeurde integraties
Shadow AI is geen eenmalig discoveryprobleem. Er worden voortdurend nieuwe tools gelanceerd, medewerkersaccounts veranderen en browserextensies stapelen zich op. Periodieke scans van uw SaaS-omgeving, analyse van uitgaand verkeer en een duidelijk meldkanaal waarmee medewerkers AI-tools kunnen melden die ze willen gebruiken, maken allemaal deel uit van doorlopend Shadow AI-beheer. Medewerkers die een tool niet snel goedgekeurd krijgen, zullen deze toch gebruiken en het niemand vertellen.
Supply-chain- en modelrisico
Foundationmodellen die commerciële AI-tools aandrijven, kunnen zonder aankondiging worden bijgewerkt, waardoor hun gedrag, output of kenmerken van gegevensverwerking veranderen. AI-plugins en integraties van derden breiden het vertrouwen uit naar aanvullende partijen die niet in uw oorspronkelijke due diligence zijn meegenomen. Controleer de lijst met subverwerkers in verwerkersovereenkomsten van leveranciers, volg release notes van leveranciers op materiële wijzigingen en test het gedrag van AI-output na belangrijke modelupdates in kritieke workflows.
Logging en incidentdetectie
Log het gebruik van AI-tools: wie wat gebruikte, wanneer en, waar mogelijk, met welke gegevens. Logs maken incidentonderzoek mogelijk, voldoen aan auditvereisten en detecteren afwijkende patronen, zoals ongebruikelijke hoeveelheden verwerkte gegevens of toegang vanaf onverwachte accounts. Zorg ervoor dat de bewaartermijn van logs aansluit bij uw incidentrespons- en wettelijke vereisten, doorgaans minimaal 12 maanden.