Shadow AI: het datalek in de dagelijkse tools van uw medewerkers

Hoe shadow AI er in de praktijk uitziet

Shadow AI is zelden het gevolg van één enkele tool of een opzettelijke schending van het beleid. Het ontstaat door een opeenstapeling van vele kleine beslissingen die elk op zich redelijk lijken. Een verkoopmanager stelt een offerte voor een klant op in ChatGPT omdat dat sneller gaat. Een ontwikkelaar vraagt een AI-assistent om een stukje code te controleren. Een HR-medewerker plakt een functieomschrijving en het cv van een kandidaat in een gratis AI-tool om sollicitaties te beoordelen. Een analist vat een bestuursrapport samen met behulp van een AI-dienst voor consumenten, omdat het bedrijf geen alternatief heeft aangeboden.

Geen van deze mensen handelt met kwade opzet. Zij hebben hulpmiddelen gevonden die hun werk vergemakkelijken. Het probleem is de kloof tussen wat zij beogen en het risico dat uw organisatie daardoor loopt.

Shadow AI is de versie van shadow IT in het AI-tijdperk: technologie die zonder toezicht van de IT-afdeling wordt gebruikt. Bij shadow IT gaat de zorg meestal uit naar systemen waarvoor geen ondersteuning wordt geboden, software waarvoor geen patches zijn geïnstalleerd en gegevens die op de verkeerde plaats zijn opgeslagen. Bij shadow AI typen of plakken medewerkers uw gegevens in externe diensten, en zodra deze zijn verzonden, kunt u ze niet meer op betrouwbare wijze terugkrijgen.

Uit de Work Trend Index 2024 van Microsoft en LinkedIn bleek dat 75% van de wereldwijd ondervraagde kenniswerkers AI op het werk gebruikte en dat 78% van die gebruikers hun eigen AI-tools meebracht. Het Data Breach Investigations Report 2026 van Verizon wijst vanuit een andere dataset in dezelfde richting: van de werknemers die regelmatig AI gebruiken op bedrijfsapparaten, deed 67% dit via niet-bedrijfsaccounts. De twee onderzoeken meten verschillende zaken, dus beschouw ze als afzonderlijke signalen.

De drie risico's die er het meest toe doen

De meeste discussies over shadow AI richten zich op gegevensbeveiliging. Wanneer medewerkers op het werk een niet-goedgekeurde AI-tool gebruiken, komen drie verschillende soorten risico's samen, en de nalevingsrisico's reiken veel verder dan alleen een gestolen wachtwoord.

1. AVG en gegevensbescherming

Artikel 5 van de AVG schrijft voor dat persoonsgegevens op rechtmatige, eerlijke en transparante wijze moeten worden verwerkt, voor welbepaalde doeleinden en met passende beveiliging, en artikel 6 vereist een rechtmatige grondslag. Wanneer een medewerker via een persoonlijk account een klantdossier, patiëntgegevens of HR-gegevens in een AI-dienst invoert, heeft uw organisatie doorgaans de aanbieder niet beoordeeld, de betrokken personen niet op de hoogte gesteld, noch afspraken gemaakt over bewaring, beveiliging of hergebruik.

De rol van de aanbieder hangt af van het account en de voorwaarden. Wanneer een AI-aanbieder namens u persoonsgegevens verwerkt, schrijft artikel 28 een schriftelijke overeenkomst voor met specifieke voorwaarden voor de verwerker. Bij een persoonlijk consumentenaccount heeft de aanbieder helemaal geen overeenkomst met u: hij handelt met de werknemer op basis van zijn consumentenvoorwaarden en kan zelf bepalen hoe gesprekken worden gebruikt, waardoor hij zelf verwerkingsverantwoordelijke voor die gegevens kan zijn. Hoe dan ook, niets van wat u bent overeengekomen, heeft betrekking op de openbaarmaking.

De verantwoordelijkheid gaat niet over op de werknemer omdat deze op eigen initiatief heeft gehandeld. Uw organisatie is verantwoordelijk voor de persoonsgegevens waarover zij de zeggenschap heeft (artikel 5, lid 2) en dient passende technische en organisatorische maatregelen te hebben getroffen (artikelen 24 en 32). Of een specifieke openbaarmaking aanleiding geeft tot maatregelen door de Autoriteit Persoonsgegevens of tot een schadeclaim op grond van artikel 82, hangt af van de gegevens, de schade en de maatregelen die u ter zake hebt genomen.

Internationale regels inzake gegevensoverdracht vormen een extra complicatie. Veel AI-diensten verwerken gegevens buiten de Europese Economische Ruimte. Krachtens hoofdstuk V van de AVG is voor een gegevensoverdracht een adequaatheidsbesluit vereist (zoals het EU-VS-kader voor gegevensbescherming voor gecertificeerde Amerikaanse bedrijven), passende waarborgen zoals de standaardcontractbepalingen van de EU, of moet er sprake zijn van een van de beperkte uitzonderingen. Bij een persoonlijk account dat zonder uw medeweten wordt gebruikt, is aan geen van deze voorwaarden voldaan.

2. Vertrouwelijkheid en intellectueel eigendom

Naast persoonsgegevens plakken medewerkers regelmatig commercieel gevoelige informatie in AI-tools: broncode, overnameplannen, klantcontracten, prijsinformatie en concurrentieonderzoek. Bij persoonlijke accounts gebruiken sommige aanbieders standaard gesprekken om hun modellen te verbeteren, waarbij u zich via de instellingen hiervoor kunt afmelden. OpenAI legt bijvoorbeeld uit dat inhoud van persoonlijke ChatGPT-accounts kan worden gebruikt om de modellen te verbeteren, tenzij de gebruiker deze functie uitschakelt, terwijl gegevens van ChatGPT Business, Enterprise, Edu en de API standaard niet worden gebruikt voor training. De voorwaarden verschillen per aanbieder en kunnen in de loop van de tijd veranderen; controleer deze daarom voor elke tool afzonderlijk.

Zelfs wanneer een dienstverlener zijn modellen niet traint met de ingevoerde gegevens, hebt u geen controle meer over deze informatie. Deze kan worden bewaard, gecontroleerd in het kader van toezicht op misbruik, openbaar worden gemaakt bij een datalek bij de dienstverlener, worden opgevraagd door een autoriteit in een ander rechtsgebied, of vermengd raken met het persoonlijke gebruik van hetzelfde account door de werknemer. Ook kunnen klantcontracten en geheimhoudingsovereenkomsten het delen van deze informatie met derden verbieden.

3. Onjuiste resultaten die zonder verificatie worden gebruikt

AI-tools genereren resultaten die overtuigend klinken, maar soms onjuist zijn. Wanneer medewerkers deze resultaten zonder controle gebruiken in documenten voor klanten, rapportages voor toezichthouders of interne besluitvorming, draagt uw organisatie het risico met betrekking tot de nauwkeurigheid. Dit gaat vaak gepaard met het risico op gegevenslekken: de persoon die gevoelige gegevens invoegt, is vaak dezelfde persoon die op het antwoord vertrouwt zonder dit te controleren.

In gereguleerde sectoren kan onjuiste, door AI gegenereerde inhoud in medisch, juridisch of financieel advies leiden tot aansprakelijkheid die veel zwaarder weegt dan de tijd die hiermee is bespaard.

Waarom de AVG-blootstelling groter is dan de meeste teams beseffen

Artikel 28 is de bepaling van de AVG die in discussies over shadow AI het vaakst over het hoofd wordt gezien. Wanneer een leverancier namens u persoonsgegevens verwerkt, is een schriftelijke overeenkomst vereist waarin het voorwerp, de duur, de aard en het doel van de verwerking, het soort persoonsgegevens en de categorieën van betrokkenen, alsmede uw verplichtingen en rechten als verwerkingsverantwoordelijke worden vastgelegd.

Een medewerker die zich met een persoonlijk account aanmeldt bij ChatGPT, heeft geen dergelijke overeenkomst met u. U bent niet op de hoogte van de verwerking. Er zijn geen afspraken gemaakt over doelbinding, waarborgen of een verwijderingsschema. Uw organisatie is de verwerkingsverantwoordelijke voor de persoonsgegevens die de medewerker in het kader van zijn of haar functie verwerkt, en het verzenden daarvan naar een externe AI-dienst vormt een verwerking, ongeacht de bedoeling van de medewerker.

Niet elk gebruik van een niet-goedgekeurde tool vormt een meldingsplichtige inbreuk. Een prompt zonder persoonsgegevens roept vragen op inzake vertrouwelijkheid, maar niet inzake de AVG. Wanneer persoonsgegevens zonder toestemming zijn openbaar gemaakt, is er sprake van een inbreuk op de bescherming van persoonsgegevens: u dient dit te registreren en binnen 72 uur nadat u hiervan op de hoogte bent geraakt, te melden bij de Autoriteit Persoonsgegevens, indien dit waarschijnlijk een risico voor de rechten en vrijheden van personen met zich meebrengt. Zonder inzicht in het gebruik van AI kunt u die beoordeling helemaal niet maken.

In 2024 meldde de Nederlandse Autoriteit Persoonsgegevens dat zij verschillende meldingen van datalekken had ontvangen die waren veroorzaakt doordat werknemers persoonsgegevens in AI-chatbots hadden ingevoerd. Toezichthoudende autoriteiten in Italië, Duitsland en Spanje hebben onderzoeken ingesteld of maatregelen genomen met betrekking tot AI-tools en persoonsgegevens, en de Ierse Commissie voor Gegevensbescherming, die toezicht houdt op veel grote Amerikaanse technologiebedrijven die in de EU actief zijn, heeft AI hoog op de agenda staan.

Waar shadow AI verborgen zit buiten het voor de hand liggende

Wanneer mensen aan shadow AI denken, denken ze meestal aan ChatGPT. Het werkelijke werkterrein is echter veel breder en moeilijker in kaart te brengen.

• Browser-extensies: Schrijfassistenten, add-ons voor transcriptie en soortgelijke extensies kunnen, afhankelijk van de verleende machtigingen, lezen wat de gebruiker in de browser typt of bekijkt. Veel daarvan beschikken inmiddels over generatieve AI-functies, en een extensie met uitgebreide machtigingen kan tekst inzien die in interne systemen wordt ingevoerd.
• AI-functies in reeds gebruikte SaaS-tools: Notion AI, Slack AI, de AI-functies van HubSpot, Magic Write van Canva en vele andere voegen AI toe aan platforms die uw medewerkers al gebruiken. Vaak wordt aangenomen dat goedkeuring van het platform ook geldt voor de AI-functie. Controleer of de functie is ingeschakeld, welke subverwerkers erbij worden ingezet, waar de gegevens worden verwerkt en of uw bestaande contract hierop van toepassing is.
• Toegang van consumenten tot tools met een bedrijfsmerk: Microsoft 365 Copilot Chat biedt bescherming van bedrijfsgegevens wanneer medewerkers inloggen met hun Entra ID-werkaccount. Als dezelfde persoon inlogt met een persoonlijk Microsoft-account, krijgt hij of zij de consumentenversie van Copilot onder consumentenvoorwaarden, zelfs als uw bedrijf betaalt voor Microsoft 365 Copilot.
• Persoonlijke apparaten: AI-tools die op persoonlijke telefoons en laptops worden gebruikt, vallen buiten de meeste DLP- en webfiltersystemen van bedrijven. Door werken op afstand en hybride werken komt dit steeds vaker voor.
• Spraak- en vergadertools: AI-transcriptiediensten voor vergaderingen, zoals Fireflies, Otter.ai en soortgelijke tools, nemen het geluid van vergaderingen op en verwerken dit, waarbij soms commercieel gevoelige gesprekken worden opgenomen. Controleer wie deze functies kan inschakelen en waar de opnames worden opgeslagen.

Het type account beïnvloedt het risico

Wat NIS2 en ISO 27001 vereisen

Artikel 32 van de AVG schrijft reeds voor dat de beveiliging in verhouding moet staan tot het risico, en daar hoort ook bij dat men weet waar persoonsgegevens naartoe gaan. In Nederland wordt NIS2 geïmplementeerd via de Cyberbeveiligingswet. Essentiële en belangrijke entiteiten die onder het toepassingsgebied vallen, moeten cyberbeveiligingsrisico's beheren, met inbegrip van risico's in hun toeleveringsketen en risico's die voortvloeien uit diensten van derden, waaronder mogelijk AI-diensten die gevoelige gegevens verwerken. Zelfs als u niet onder het toepassingsgebied valt, is dit nog steeds een nuttig referentiepunt.

ISO 27001:2022 is risicogebaseerd. De maatregelen in bijlage A die het meest relevant zijn voor AI-tools zijn 5.9 (inventarisatie van informatie en andere bijbehorende activa), 5.10 (aanvaardbaar gebruik van informatie en andere bijbehorende activa) en 5.23 (informatiebeveiliging bij het gebruik van clouddiensten). De norm vereist geen afzonderlijk AI-beleid; u kunt AI opnemen in uw bestaande beleidsregels inzake aanvaardbaar gebruik en clouddiensten. Wel wordt van u verwacht dat u het risico in kaart brengt, bepaalt hoe u hiermee omgaat en bewijsmateriaal bewaart.

Indien u in het bezit bent van of bezig bent met het verkrijgen van een ISO 27001-certificering, kunt u ervan uitgaan dat auditors zullen vragen hoe het gebruik van AI-tools tot uiting komt in uw risicobeoordeling, inventaris van bedrijfsmiddelen en regels voor aanvaardbaar gebruik. Wanneer het gebruik van AI wijdverbreid is en in geen van deze documenten hierop wordt ingegaan, kan een auditor een afwijking signaleren; de ernst hiervan hangt af van het risico en het bewijsmateriaal dat u kunt overleggen.

Een shadow AI-aanpak bouwen die medewerkers daadwerkelijk volgen

De instinctieve reactie op shadow AI is om deze te blokkeren. Blokkeren zonder een alternatief aan te bieden leidt er vaak toe dat het gebruik wordt verplaatst naar persoonlijke apparaten, buiten het bereik van uw controle. Medewerkers maken gebruik van deze hulpmiddelen omdat ze hen helpen bij hun werk, en zij zullen dit blijven doen als er geen goedgekeurd alternatief is.

Een werkbaar shadow AI-programma bestaat uit zeven onderdelen, grofweg in volgorde van prioriteit. Wijs er een verantwoordelijke aan en stel een evaluatiedatum vast, aangezien de tools sneller veranderen dan de meeste beleidsregels.

1. Beleid inzake aanvaardbaar gebruik van AI: Een kort, duidelijk document waarin aan het personeel wordt uitgelegd welke tools zijn goedgekeurd, welke gegevens zij bij elke tool mogen gebruiken, hoe zij een nieuwe tool of een uitzondering kunnen aanvragen, en wat zij moeten doen wanneer een AI-functie verschijnt in een tool die zij al gebruiken. Beperk het tot één of twee pagina's met een duidelijke lijst van goedgekeurde tools.
2. Lijst met goedgekeurde AI-tools met richtlijnen per gegevenscategorie: Niet alle gegevens zijn even gevoelig. Geef medewerkers een eenvoudig kader: openbare informatie mag in tool X worden ingevoerd; interne bedrijfsinformatie mag met een zakelijk account in tool Y worden ingevoerd; persoonsgegevens, vertrouwelijke klantinformatie en broncode mogen zonder specifieke goedkeuring in geen enkele AI-tool worden ingevoerd. Duidelijke regels nemen het giswerk weg dat momenteel tot slechte beslissingen leidt.
3. Gegevensclassificatie: Medewerkers kunnen geen goede beslissingen nemen over wat zij in AI-tools invoeren als zij niet weten wat als gevoelig wordt beschouwd. Een eenvoudig classificatiesysteem met duidelijke voorbeelden is een voorwaarde voor het functioneren van het beleid voor aanvaardbaar gebruik.
4. Alternatieven op bedrijfsniveau: Geef medewerkers toegang tot tools die voldoen aan uw governance-eisen, zoals Microsoft 365 Copilot of Copilot Chat in combinatie met werkaccounts, een bedrijfsimplementatie van Claude of ChatGPT, of andere producten die gegevens verwerken op basis van een schriftelijke overeenkomst met passende bewaar- en locatievoorwaarden. Dit neemt een groot deel van de reden weg om persoonlijke accounts te gebruiken.
5. DLP en monitoring voor AI-diensten: Hulpmiddelen voor gegevensverliespreventie (DLP) en webfiltering kunnen verkeer naar bekende AI-diensten detecteren en, indien geconfigureerd, waarschuwen of blokkeren wanneer er gevoelige gegevens in het spel zijn. Het monitoren van medewerkers is op zich al een verwerking van hun persoonsgegevens; zorg er daarom voor dat dit evenredig blijft, informeer medewerkers over wat u monitort en waarom, en overweeg een DPIA. In Nederland kan voor een dergelijke monitoringregeling ook de instemming van de ondernemingsraad vereist zijn op grond van artikel 27 van de Wet op de ondernemingsraden (WOR).
6. Controleer bestaande SaaS-tools op ingebouwde AI-functies: Controleer elke tool in uw goedgekeurde softwarepark op AI-functies die zijn toegevoegd of binnenkort worden toegevoegd. Breng in kaart welke hiervan gevolgen hebben voor de gegevensbescherming en werk contracten of gebruiksvoorwaarden bij. Leveranciers voegen doorlopend AI-functies toe, dus dit is een terugkerende taak.
7. Regelmatige bewustmaking van het personeel, geen jaarlijkse afvinkmodule: Korte, relevante mededelingen die zijn gekoppeld aan specifieke gebruikssituaties spreken het personeel beter aan dan een jaarlijkse cursus. Koppel updates aan wijzigingen in uw goedgekeurde tools en maak het voor medewerkers gemakkelijk om een fout te melden zonder angst voor verwijten.

Wat te doen als gegevens al in een niet-goedgekeurde AI-tool zijn ingevoerd

Vroeg of laat zal iemand u hierop wijzen, of zal uit uw controles blijken, dat klant- of persoonsgegevens in een persoonlijk AI-account terecht zijn gekomen. Beschouw dit als een mogelijk incident en doorloop de stappen in de juiste volgorde.

1. Stel de feiten vast: om welke tool en welk account gaat het, om welke gegevens, om hoeveel personen of records, wanneer, en of het account wordt gedeeld of gesynchroniseerd met andere apparaten.
2. Bewaar het bewijsmateriaal voordat er iets wordt verwijderd: een overzicht van wat er is gedeeld, schermafbeeldingen van het gesprek en eventuele relevante logbestanden. Verzamel alleen wat u nodig hebt en respecteer de privacy van de medewerker.
3. Beperk de schade: vraag de medewerker het gesprek te verwijderen en, indien de aanbieder dit toestaat, de modeltraining uit te schakelen en de geschiedenis te wissen. Controleer de bewaartermijnen van de aanbieder, aangezien het verwijderen mogelijk niet onmiddellijk van kracht wordt.
4. Beoordeel het risico voor de betrokkenen: het soort en de gevoeligheid van de gegevens, wat de aanbieder volgens zijn voorwaarden met de gegevens mag doen, en of deze kunnen worden misbruikt.
5. Beslis over de melding: indien er persoonsgegevens in het geding zijn en het datalek waarschijnlijk een risico voor betrokkenen met zich meebrengt, meld dit dan binnen 72 uur na constatering bij de Autoriteit Persoonsgegevens en breng de betrokkenen op de hoogte indien het risico groot is. Leg het datalek en uw redenering in beide gevallen vast.
6. Controleer andere verplichtingen: klantcontracten, geheimhoudingsovereenkomsten, sectorale toezichthouders en verzekeraars kunnen hun eigen meldingsvoorwaarden hanteren.
7. Verhelp de oorzaak: bied een goedgekeurd alternatief aan, werk het beleid of de richtlijnen bij en reageer op een eerlijke manier op de medewerker. Medewerkers die worden gestraft voor het melden van een fout, zullen de volgende fout minder snel melden.

Waar te beginnen

Shadow AI is waarschijnlijk al aan de gang binnen uw organisatie. Nu actie ondernemen kost minder dan pas actie ondernemen na een gegevensincident of een onderzoek door de toezichthouder.

Een nuttige eerste stap is een korte, anonieme enquête onder het personeel waarin wordt gevraagd welke AI-tools mensen gebruiken en waarvoor. De antwoorden wijken vaak af van wat de IT-afdeling verwacht, en ze geven u aan waar u uw aandacht op moet richten. Beslissingen over beleid en tools die op feitelijke gegevens zijn gebaseerd, blijken doorgaans beter stand te houden dan beslissingen die op aannames zijn gebaseerd.

Er zijn drie maatregelen die prioriteit verdienen:

• Publiceer een beleid inzake aanvaardbaar gebruik van AI, zelfs al is het slechts een korte tussentijdse versie, vóór uw volgende beoordelingscyclus van het personeel. Het personeel beschikt dan over duidelijke richtlijnen, en u hebt iets om naar te verwijzen mocht zich een incident voordoen.
• Controleer uw register van verwerkers en breng alle AI-diensten in kaart die namens u persoonsgegevens verwerken. Controleer of voor elk daarvan een schriftelijke overeenkomst op grond van artikel 28 is gesloten en, indien gegevens de EER verlaten, of er een geldig overdrachtsmechanisme is.
• Controleer uw bestaande SaaS-tools op AI-functies. Veel daarvan hebben sinds uw oorspronkelijke leveranciersbeoordeling nieuwe mogelijkheden toegevoegd. Werk uw administratie bij en, indien nodig, uw contracten.

Shadow AI is een kloof tussen de manier waarop uw medewerkers werken en het beleid dat is opgesteld voordat deze tools bestonden. Dicht deze kloof met richtlijnen die mensen kunnen volgen en goedgekeurde tools die hen dezelfde productiviteit bieden die zij al op eigen initiatief hebben bereikt.

Hoe Cyvra helpt

Cyvra combineert beveiligings- en AI-expertise om organisaties te helpen begrijpen waar shadow AI plaatsvindt, de AVG- en vertrouwelijkheidsblootstelling te beoordelen en een aanpak te bouwen die medewerkers daadwerkelijk volgen, omdat ze betere tools krijgen in plaats van een verbod.

• Shadow AI-audit: stel vast welke AI-tools uw medewerkers gebruiken, inclusief AI-functies ingebed in SaaS-platforms die uw IT-team al voor andere doeleinden heeft goedgekeurd
• AVG-verwerkersbeoordeling: identificeer welke AI-diensten namens u persoonsgegevens verwerken zonder passende verwerkersovereenkomst, en beoordeel de blootstelling
• AI-gebruiksbeleid opstellen: stel een beleid op dat medewerkers duidelijke richtlijnen geeft over goedgekeurde tools en toegestane gegevenstypen, onderscheid makend tussen gebruiksscenarios in plaats van een algeheel verbod
• Goedgekeurde AI-tooling: beveel bedrijfswaardige alternatieven aan die voldoen aan uw data-governancevereisten, zodat medewerkers een goedgekeurde route hebben naar de productiviteitswinst die ze zoeken
• Bewustwordingstraining medewerkers: organiseer gerichte sessies die dataclassificatie uitleggen in de context van AI-tools, geen generieke jaarlijkse complianceoefeningen
• DLP-configuratie: configureer DLP-maatregelen om gevoelige gegevensoverdrachten naar niet-goedgekeurde AI-diensten te detecteren en te blokkeren

Neem contact op met onze cyberbeveiligingspraktijk of AI-praktijk om te starten met een shadow AI-audit.