Deze pagina behandelt de juridische en compliancekant van shadow AI. Hoe shadow AI eruitziet en welke drie risico's het zwaarst wegen, leest u in onze shadow AI-gids. Waar het verborgen zit en hoe u een aanpak bouwt die medewerkers volgen, staat in shadow AI opsporen en beheersen.
Waarom de AVG-blootstelling groter is dan de meeste teams beseffen
Een AI-aanbieder kan optreden als uw verwerker, die persoonsgegevens namens u verwerkt, of als zelfstandige verwerkingsverantwoordelijke, die zelf bepaalt hoe hij de gegevens gebruikt. Welke rol van toepassing is, hangt af van de dienst, de overeenkomst en de instellingen, en bepaalt welke verplichtingen gelden. Artikel 28 is de bepaling van de AVG die in discussies over shadow AI het vaakst over het hoofd wordt gezien. Wanneer een leverancier namens u persoonsgegevens verwerkt, is een schriftelijke overeenkomst vereist waarin het voorwerp, de duur, de aard en het doel van de verwerking, het soort persoonsgegevens en de categorieën van betrokkenen, alsmede uw verplichtingen en rechten als verwerkingsverantwoordelijke worden vastgelegd.
Een medewerker die zich met een persoonlijk account aanmeldt bij ChatGPT, heeft geen dergelijke overeenkomst met u. U bent niet op de hoogte van de verwerking. Er zijn geen afspraken gemaakt over doelbinding, waarborgen of een verwijderingsschema. Uw organisatie is de verwerkingsverantwoordelijke voor de persoonsgegevens die de medewerker in het kader van zijn of haar functie verwerkt, en het verzenden daarvan naar een externe AI-dienst vormt een verwerking, ongeacht de bedoeling van de medewerker.
Wanneer een AI-aanbieder als uw verwerker optreedt, is op grond van artikel 28 van de AVG een schriftelijke overeenkomst vereist. Een persoonlijk AI-account biedt u geen overeenkomst en geen zeggenschap over de wijze waarop de aanbieder de gegevens gebruikt, en de aanbieder kan op eigen titel als verwerkingsverantwoordelijke optreden. Uw organisatie blijft verantwoordelijk voor de persoonsgegevens waarover zij de zeggenschap heeft en voor het treffen van passende beveiligingsmaatregelen. Of een specifieke openbaarmaking leidt tot handhavingsmaatregelen of een vordering, hangt af van de feiten.
Niet elk gebruik van een niet-goedgekeurde tool vormt een meldingsplichtige inbreuk. Een prompt zonder persoonsgegevens roept vragen op inzake vertrouwelijkheid, maar niet inzake de AVG. Wanneer persoonsgegevens zonder toestemming naar een externe AI-tool zijn gestuurd, behandelt u dit als een mogelijke inbreuk op de bescherming van persoonsgegevens en beoordeelt u de feiten. Gaat het om een inbreuk, dan dient u dit te registreren en binnen 72 uur nadat u hiervan op de hoogte bent geraakt, te melden bij de Autoriteit Persoonsgegevens, indien dit waarschijnlijk een risico voor de rechten en vrijheden van personen met zich meebrengt. Zonder inzicht in het gebruik van AI kunt u die beoordeling helemaal niet maken.
In 2024 meldde de Nederlandse Autoriteit Persoonsgegevens dat zij verschillende meldingen van datalekken had ontvangen die waren veroorzaakt doordat werknemers persoonsgegevens in AI-chatbots hadden ingevoerd. Toezichthoudende autoriteiten in Italië, Duitsland en Spanje hebben onderzoeken ingesteld of maatregelen genomen met betrekking tot AI-tools en persoonsgegevens, en de Ierse Commissie voor Gegevensbescherming, die toezicht houdt op veel grote Amerikaanse technologiebedrijven die in de EU actief zijn, heeft AI hoog op de agenda staan.
Wat NIS2 en ISO 27001 vereisen
Artikel 32 van de AVG schrijft reeds voor dat de beveiliging in verhouding moet staan tot het risico, en daar hoort ook bij dat men weet waar persoonsgegevens naartoe gaan. In Nederland wordt NIS2 geïmplementeerd via de Cyberbeveiligingswet. Essentiële en belangrijke entiteiten die onder het toepassingsgebied vallen, moeten cyberbeveiligingsrisico's beheren, met inbegrip van risico's in hun toeleveringsketen en risico's die voortvloeien uit diensten van derden, waaronder mogelijk AI-diensten die gevoelige gegevens verwerken. Zelfs als u niet onder het toepassingsgebied valt, is dit nog steeds een nuttig referentiepunt.
ISO 27001:2022 is risicogebaseerd. De maatregelen in bijlage A die het meest relevant zijn voor AI-tools zijn 5.9 (inventarisatie van informatie en andere bijbehorende activa), 5.10 (aanvaardbaar gebruik van informatie en andere bijbehorende activa) en 5.23 (informatiebeveiliging bij het gebruik van clouddiensten). De norm vereist geen afzonderlijk AI-beleid; u kunt AI opnemen in uw bestaande beleidsregels inzake aanvaardbaar gebruik en clouddiensten. Wel wordt van u verwacht dat u het risico in kaart brengt, bepaalt hoe u hiermee omgaat en bewijsmateriaal bewaart.
Indien u in het bezit bent van of bezig bent met het verkrijgen van een ISO 27001-certificering, kunt u ervan uitgaan dat auditors zullen vragen hoe het gebruik van AI-tools tot uiting komt in uw risicobeoordeling, inventaris van bedrijfsmiddelen en regels voor aanvaardbaar gebruik. Wanneer het gebruik van AI wijdverbreid is en in geen van deze documenten hierop wordt ingegaan, kan een auditor een afwijking signaleren; de ernst hiervan hangt af van het risico en het bewijsmateriaal dat u kunt overleggen.
Wat te doen als gegevens al in een niet-goedgekeurde AI-tool zijn ingevoerd
Vroeg of laat zal iemand u hierop wijzen, of zal uit uw controles blijken, dat klant- of persoonsgegevens in een persoonlijk AI-account terecht zijn gekomen. Beschouw dit als een mogelijk incident en doorloop de stappen in de juiste volgorde.
- Stel de feiten vast: om welke tool en welk account gaat het, om welke gegevens, om hoeveel personen of records, wanneer, en of het account wordt gedeeld of gesynchroniseerd met andere apparaten.
- Bewaar het bewijsmateriaal voordat er iets wordt verwijderd: een overzicht van wat er is gedeeld, schermafbeeldingen van het gesprek en eventuele relevante logbestanden. Verzamel alleen wat u nodig hebt en respecteer de privacy van de medewerker.
- Beperk de schade: vraag de medewerker, nadat het bewijs is veiliggesteld, het gesprek te verwijderen en, indien de aanbieder dit toestaat, de geschiedenis te wissen, tenzij een bewaarplicht (legal hold) of het onderzoek vereist dat de gegevens bewaard blijven. Het uitschakelen van modeltraining voorkomt toekomstig gebruik, maar verwijdert niet wat al is verstuurd. Controleer de werkelijke bewaartermijnen van de aanbieder, aangezien het verwijderen mogelijk niet onmiddellijk van kracht wordt en kopieën nog enige tijd bewaard kunnen blijven.
- Beoordeel het risico voor de betrokkenen: het soort en de gevoeligheid van de gegevens, wat de aanbieder volgens zijn voorwaarden met de gegevens mag doen, en of deze kunnen worden misbruikt.
- Beslis over de melding: indien er persoonsgegevens in het geding zijn en het datalek waarschijnlijk een risico voor betrokkenen met zich meebrengt, meld dit dan binnen 72 uur na constatering bij de Autoriteit Persoonsgegevens en breng de betrokkenen op de hoogte indien het risico groot is. Leg het datalek en uw redenering in beide gevallen vast.
- Controleer andere verplichtingen: klantcontracten, geheimhoudingsovereenkomsten, sectorale toezichthouders en verzekeraars kunnen hun eigen meldingsvoorwaarden hanteren.
- Verhelp de oorzaak: bied een goedgekeurd alternatief aan, werk het beleid of de richtlijnen bij en reageer op een eerlijke manier op de medewerker. Medewerkers die worden gestraft voor het melden van een fout, zullen de volgende fout minder snel melden.